「激活值内存」共找到 633 篇相关文章
内存一年疯涨170%，云账单里的“隐性成本”该算清了
2025年下半年存储价格成焦点，DRAM合同价同比涨幅达171.8%，致企业IT采购成本上升。华为云更新Flexus云服务器系列，基于柔性算力技术，打破CPU与内存固定绑定，减少浪费，还引入应用级加速，提升性能。
这个框架让大模型省下50%内存，合并专家不如直接删掉？
Cerebras Research提出REAP框架，通过专家剪枝和合并技术压缩SMoE模型，能让模型‘瘦身’并保持性能，可省50%内存，但社区测试有不同结果，且存在调度开销等问题。
Anthropic冲刺9000亿美元估值：48小时定生死，两周内见分晓
Anthropic给潜在投资者下48小时参与融资的最后通牒，融资规模约500亿，目标估值9000亿。部分早期投资者跳过，公司需资金支撑算力。若达成，将超OpenAI，这或为上市前最后一轮私融。
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
Mira Murati新公司获20亿美元融资，估值100亿美元
金融时报消息，前OpenAI首席技术官Mira Murati创立的AI公司“Thinking Machines Lab”获20亿美元种子轮融资，估值100亿美元。公司致力于开发人工通用智能，目前对产品和技术细节高度保密。
倒反天罡！Claude「反向」操控人类，公司估值冲2万亿跃居全球第二
2026年1月17日，一段‘AI指挥人类写代码’视频刷屏，Claude Code能力引发关注，模糊人机交互界限。18日《金融时报》称红杉资本将参与Anthropic新一轮融资，其估值冲向3500亿美元，或成2万亿级AI独角兽。
内存直降50%，token需求少56%！用视觉方式处理长文本
在NeurIPS 2025论文中，南京理工大学等校研究团队提出VIST框架，为大语言模型长文本高效推理提供视觉解决方案。它模仿人类阅读机制，让模型具备选择性阅读能力，减少Token需求和内存使用。
种子轮就估值120亿美元，她能打造另一个OpenAI吗？
据《金融时报》，OpenAI前CTO Mira Murati的创业公司Thinking Machines Lab种子轮融资20亿美元，投后估值120亿美元。此轮由a16z领投，Nvidia和AMD参投。Murati透露公司方向，还称产品含开源组件。
突发！林俊旸被曝创业：新AI Lab估值20亿美元
自3月初离开阿里Qwen团队后，林俊旸动向曝光。外媒消息称他正为新创立的AI Lab筹集数亿美元资金，本轮融资后估值或达20亿美元，高榕创投与红杉资本已接洽投资，他还招募了相关成员。