「KV Cache 压缩」共找到 272 篇相关文章
深度解读 DeepSeek V4.1 Flash 全新架构，如何成为显存杀手
本文深度解读DeepSeek最新发布的V4.1 Flash大模型，详解其全新CED架构与第二代压缩稀疏注意力CSA2，揭秘其通过架构创新大幅压缩KV缓存、降低显存算力成本，在长上下文Agent场景实现性能反超的细节。
微软的prompt压缩方案-LLMLingua,开源
使用大语言模型时，提示信息长会致运行慢、费用高、易超限。微软推出的LLMLingua可压缩提示信息，有完整开源。它历经多版本演进，还能用于安全防御，使用简单，值得开发者跟踪。
不得了，这个新技术把视频压缩到了0.02%！
中国电信人工智能研究院的生成式视频压缩（GVC）技术，将视频数据压缩率干到0.02%，还能保持画面高清连贯和细节。它以‘用计算换宽带’为核心理念，在实测中表现优异，有诸多应用场景。
重磅！DeepSeek再开源：视觉即压缩，100个token干翻7000个
DeepSeek-OCR模型探索视觉-文本压缩边界，用少量视觉token解码出10倍以上文本信息。它在OmniDocBench基准上表现超GOT-OCR2.0，为LLM长上下文问题提供方案，还能处理多类图像与近100种语言。
Harness 工程实践复盘：100% Cache 命中的 Agent 怎么设计？
本文是 ClackyAI 团队在 Harness 工程实践上的复盘。他们经两代失败后用 Ruby 重写第三代 OpenClacky，总结影响成本和效果的 7 个关键决策，如双 Cache 标记、System Prompt 字节冻结等，凸显 Harness 工程对 Agent 产品的重要性。
揭秘 | 桥梁缺陷检测新突破：模型压缩42%，精度几乎不掉
全国公路桥梁超百万座，传统人工巡检效率低且有安全风险，现有深度学习检测模型体积大、计算量高。研究团队提出LBSD - YOLO网络，通过创新实现轻量化，实验显示模型瘦身但性能不减，有重要应用价值。
重大技术突破！微软发布BioEmu模型，蛋白质模拟从数年压缩至几小时
今天凌晨，微软CEO分享蛋白质模拟模型BioEmu，可将蛋白质动态模拟从数年缩至几小时，已在《自然》发表。它能解决传统方法难题，核心设计独特，训练整合多数据源、采用多阶段策略。
你奶奶也能看懂：DeepSeek-OCR的秘密。
本文介绍DeepSeek-OCR，它并非普通OCR工具，而是用“上下文光学压缩”将大量文本信息转为少量视觉Token。其架构含编码器和解码器，压缩效果惊人，重新定义AI“记忆”，或改变AI认知方式。
4倍无损压缩Diffusion，6倍加速！仅需时间特征维护 | TPAMI'25
扩散模型时间特征对量化敏感，现有量化方法会致其扰动，影响图像质量。港科大等多校团队提出TFMQ - DM框架，优化时间特征相关模块，提升低比特量化性能，实现硬件加速。
推理时间减少70%！前馈3DGS「压缩神器」来了，浙大Monash联合出品
在AR、VR等领域，3DGS是新视角合成（NVS）领域备受关注的技术方案。现有前馈3DGS模型存在编码器容量有限等问题，ZIP Lab和Monash团队引入信息瓶颈原理，推出轻量级模块ZPressor，有效解决信息过载难题。