「双KV - Cache」共找到 217 篇相关文章
大模型能力，小模型成本！Google等 | 提出递归混合框架：MoR， 大幅提升LLM计算效率
Google提出递归混合框架（MoR），融合参数共享与自适应计算。它有轻量级路由和KV缓存策略，在不同路由机制各有优劣。实验显示，MoR在性能、计算和内存效率上表现出色，有望实现“大模型能力，小模型成本”。
CVPR2025视频生成统一评估架构，上交x斯坦福联合提出让MLLM像人类一样打分
Video-Bench视频评估框架由上海交通大学、斯坦福大学等团队提出，能让MLLM像人一样评估视频。它构建双维度评估框架，引入链式查询和少样本评分技术，突破现有评估方法限制，更全面智能地评分。
行为记忆+认知记忆，中科大MemWeaver重构LLM个性化记忆
论文MemWeaver被The Web Conference 2026接收，它聚焦用户从隐式到显式文本交互时个性化生成的升级问题。提出将用户历史升级为层次化记忆，构建行为与认知双记忆模块，主实验表现优，消融实验验证其结构设计关键。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
北大字节开源首个时空推理视频模型！思考过程全透明，性能超越GPT-4o
北大和字节联合团队推出开源模型Open-o3 Video，将显式时空证据嵌入视频推理全过程，采用non-agent架构，性能超越GPT - 4o等闭源模型。该模型构建了STGR语料体系，采用双阶段训练，实验表现优秀。
「小米们」的百镜大战，带火国产眼镜老板
今年10月以来，AI、AR眼镜迎新品发布期，双11销售大增，带火眼镜制造商和零售商。传统眼镜厂商受益于配镜需求和高利润率，但也面临价值量少、选择多等问题，且难成持续增长主力曲线。
比0.99元羊毛更重要的，是跟AI砍价的快乐
双11期间，不少人分享跟Kimi Agent会员砍价战果，原本49元/月的会员能砍到0.99元。作者尝试多种砍价话术，如夸夸、卖惨等，还对比其他模型，最后总结出砍价秘诀，活动有时间和新老用户限制。
正式版发布！DeepSeek-V4-Pro-0813
8月13日晚，DeepSeek-V4-Pro-0813正式版发布。此次升级将Agent维度提升至无短板的第一梯队，具备1M+384K长任务能力，接口双兼容，技术创新多。还公布评测对比、价格并发设定，给出实战代码案例与启示。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。