「历史缓存检索」共找到 466 篇相关文章
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
Karpathy教你值回ChatGPT 200刀「票价」，初创工程师揭秘ChatGPT最核心能力
AI大神Andrej Karpathy用一张图教你选ChatGPT模型，给出使用指南，如简单问题用4o，困难问题用o3等。初创工程师Eric Hayes揭秘其背后复杂记忆系统，含保存记忆、聊天历史等，提升了用户体验。
阿里通义开源「推理+搜索」预训练新框架：小模型媲美大模型，多个开放域问答数据集表现显著提升
阿里通义实验室开源通用预训练框架MaskSearch，引入检索增强型掩码预测任务，兼容两种训练方法。实验显示，它在多数据集提升模型性能，小模型能媲美大模型，还验证了训练方式、策略及奖励函数的效果。
谷歌一篇论文引爆存储芯片崩盘！AI内存需求暴降6倍，推理狂飙8倍
谷歌发布TurboQuant算法，将缓存压到3 - bit，内存占用降为1/6，推理速度提升8倍。该算法冲击存储巨头，引发股价下跌，虽目前未改变采购量，但改写推理成本，且从论文到落地的路在缩短。
DeepSeek连发两篇论文背后，原来藏着一场学术接力
2026年1月，DeepSeek连发两篇论文，一篇解决信息稳定流动，另一篇聚焦知识高效检索。研究发现其与字节Seed团队存在“接力”，如mHC改进字节Seed的HC，Conditional Memory引用多项工作，梳理关系能助理解论文与架构创新方向。
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
中国人民大学团队提出全新LLM记忆管理框架MemSifter，打破长时记忆管理‘精度不够’和‘成本太高’的困局。它将记忆检索‘外包’给轻量级代理模型，采用任务结果导向的RL训练范式，在8个基准测试中超越现有SOTA方案。
TruthfulRAG，用知识图谱硬刚RAG知识冲突
RAG系统存在知识冲突问题，现有解决方法治标不治本。TruthfulRAG将非结构化文本转化为结构化事实，通过图构建、图检索、冲突解决三大模块解决冲突，实验显示其表现优异，结构化表示还提升了LLM置信度。
刘鹏飞组发布上下文工程2.0：人机交互的全新视角
刘鹏飞组论文《Context Engineering 2.0: The Context of Context Engineering》重新梳理上下文工程领域。它追溯其20多年历史，给出形式化定义与四阶段模型，探讨关键问题，将其从技术技巧升为系统学科，为理解人机交互提供新视角。
大模型再爆弱点！旧记忆忘不掉，新记忆分不出，准确率暴降 | ICML'25
弗吉尼亚大学和纽约大学研究人员用「前摄干扰」概念设计测验PI - LLM，测试大语言模型（LLM）上下文检索能力。结果显示，随干扰增加，模型准确率对数下降至零，提示工程效果有限，需调整模型架构或训练范式。
小米MiMo Agent 跨会话进化
多数AI编程Agent任务一长就忘事，业界主流靠堆上下文窗口应对，但有缺陷。小米MiMo团队开源的MiMo Code，靠显式存储 - 检索机制，200步以上任务胜率超Claude Code达65%，介绍了其设计及优缺点。