「双KV - Cache」共找到 217 篇相关文章
内存减6倍、精度0损失，推理提速8倍！谷歌新技术震撼了AI圈
Google Research团队推出TurboQuant技术，能将KV缓存6倍压缩、无精度损失，推理速度提升8倍，解决内存瓶颈问题，为大语言模型应用扫清障碍，引发业界关注，还致存储芯片巨头股价大跌。
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
VAE再被补刀！清华快手SVG扩散模型亮相，训练提效6200%，生成提速3500%
前脚谢赛宁宣告VAE在图像生成领域退役，后脚清华与快手可灵团队就推出无VAE潜在扩散模型SVG。它通过语义+细节双分支+分布对齐，实现多任务通用，训练提效62倍、生成提速35倍。
全球首款！Claude引发的数据恐慌，被这家中国黑马补上了
威努特作为网络安全公司跨界推出AI桌面助手WinClaw。它能读懂各类文件并进行向量化处理，有多种检索方式，还能跨文档归纳、关系推理。具备安全的三层防护，支持双平台，注册即可用。
RAE的终极形态？北大&阿里提出UniLIP: 将CLIP拓展到重建、生成和编辑
北大和阿里团队提出 UniLIP，解决了统一多模态模型中语义理解与像素重建的矛盾。它创新微调 CLIP，实现图像重建，还提出双条件架构用于生成和编辑，在多基准取得 SOTA 性能。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
Manus首次揭秘：Agent的关键在上下文工程
Agent成大模型主战场，构建方法待探索。Manus发blog揭秘，认为成功的AI Agent依赖上下文工程。团队选此实现快速迭代，虽实践不易，但总结出围绕KV缓存设计等关键点，其经验影响Agent表现。
NeurIPS近3万投稿爆仓，强拒400篇论文！博士疯狂内卷，AI顶会噩梦来袭
AI顶会现「爆仓危机」，NeurIPS 2025双会场仍难容纳近3万投稿，约400篇已录用论文被拒收。AAAI 2026投稿也破纪录，近7成来自中国。各顶会录用率降、审稿人缺、质量下滑。
人工智能研究者如何意外发现：我们对“学习”的理解，可能全是错的
传统理论认为大模型会过拟合，而如今大模型却驱动了诸多应用。2019年研究者突破传统扩大模型规模，出现‘双下降’现象。‘彩票假说’解释其成功原因，还重新定义了‘智能’，揭示科学进步规律。
训练成本暴降99%，35秒出1分钟高清视频！英伟达MIT等引爆视频AI革命
英伟达联合MIT、港大团队提出SANA - Video架构，其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署，重新定义AI视频生成效率极限。