「KV cache压缩」共找到 254 篇相关文章
1B 参数跑出 2B 性能？面壁 MiniCPM5-1B 用 AI 自进化，提速 AGI 进程
全球AI行业陷入资源消耗战，面壁智能绕开物理瓶颈，提出“AI制造AI”路径。2026年5月25日发布MiniCPM5-1B，有越级性能、极致压缩比和均衡能力，源于“模型、框架、数据”自进化范式。
清华系团队出手！一张 4090 即可「爆改」，1.3B小钢炮震撼开源
5月11日，清华系团队面壁智能联合多方开源端侧多模态大模型MiniCPM-V 4.6。它参数仅1.3B，性能超阿里、谷歌等同级对手，效率翻倍，还实现两项架构创新，适配主流开源生态，降低开发门槛。
谷歌一篇论文引爆存储芯片崩盘！AI内存需求暴降6倍，推理狂飙8倍
谷歌发布TurboQuant算法，将缓存压到3 - bit，内存占用降为1/6，推理速度提升8倍。该算法冲击存储巨头，引发股价下跌，虽目前未改变采购量，但改写推理成本，且从论文到落地的路在缩短。
前端裁员黑科技！PinMe把部署从运维清单划掉，DevOps团队专注业务
PinMe是「一条命令就能部署前端」的命令行工具，在GitHub获约1k Star。它能将静态站点上传到IPFS，写入ENS子域名的contenthash，通过网关访问，无需自搭服务器和配置传统DNS，适合Web3前端部署。
告别胶水代码，5倍飚速！无问芯穹首次揭秘，Infra智能体蜂群登场
无问芯穹推出基础设施智能体蜂群，这是新一代基础设施智能化解决方案。它封装多个智能体模块，构建全生命周期智能闭环，提升资源利用率等。在重点客户业务流程落地效果好，能让开发者解放价值。
Transformer危！谷歌MoR架构发布：内存减半推理速度还翻倍
谷歌推出全新底层架构Mixture-of-Recursions（MoR），推理速度提高2倍、KV内存减半，首次在单一框架实现多任务处理与动态分配计算资源，研究人员通过实验验证其性能超Transformer。
北大联合阶跃星辰提出TensorCast：统一可编程管理大模型张量，推理「首字延迟」最高降低93.2%
随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。
Claude Code 最佳实践：从「能用」到「用得好」的 15 个关键技巧
GitHub热门仓库‘claude - code - best - practice’拆透Claude Code用法。本文提炼其精华，结合经验给出实操指南，涵盖上下文管理、CLAUDE.md设置、子代理等15个关键技巧，助你用好Claude Code。
谷歌 Gemini API 负责人自曝：用竞品Claude Code 1小时复现自己团队一年成果，工程师圈炸了！
谷歌主管工程师 Jaana Dogan 称，用竞品 Claude Code 一小时就生成了接近自己团队一年成果的系统。她公开评价引发争议，也让大家思考‘一年工程 vs 一小时生成’背后被压缩的是什么。
推理效率狂飙60倍：DiDi-Instruct让扩散大模型16步超越千步GPT
普渡大学等研究者提出 DiDi-Instruct 后训练方法，可将扩散大语言模型推理加速 60 倍，超越传统 GPT 模型。该方法实现推理效率与效果双提升，为大语言模型落地提供新方案。