「长上下文」共找到 1207 篇相关文章
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
长电科技汽车电子公司投产，剑指车规与机器人芯片封测新高地！
3月10日，长电科技汽车电子（上海）有限公司启用投产，这是临港新片区集成电路与智能汽车产业融合成果。该公司围绕车规核心应用构建制造能力，还兼顾机器人芯片封测，引入智能与AI技术提升效率。
字节Seed实习生曝DeepSeek-V4技术缺陷：长文本检索陷入“周期性盲区”
本文报道字节跳动Seed团队联合多校研究者，发现DeepSeek-V4因分块KV缓存压缩设计存在长文本检索周期性盲区，深入拆解缺陷根源，曝光传统大模型长文本评测的盲区。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
“毋在浮沙筑高台”：汪源谈智能体想从 80 分跨到 90 分，全卡在上下文
前网易副总裁汪源在2026奇点智能产品大会分享，指出智能体系统瓶颈正从模型能力、Harness工程，转移到上下文。他还介绍了做好上下文基础设施的要点，以及推出的新内容格式KRL。
Codex正式开放1M上下文！解除GPT-5.6 Sol封印，三行配置搞定
现在3行配置就能让GPT - 5.6 Sol封印解除，在Codex里用上1M上下文。不过有网友警告轻易别用，因超出默认窗口，模型消耗token速度会翻倍，且模型上下文利用能力会下降。此外，Codex确定会上Astra。
LLM 长文本处理的“不可能三角”？我们用 E2LLM 把它破解了！
长文本理解与推理是LLM的难题，存在效果、速度、兼容性的“不可能三角”。蚂蚁集团和华东师范大学提出E2LLM新范式，实现三者平衡，在效果和效率上表现出色，开启长文本处理新篇章。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
字节Seed实习生曝DeepSeek-V4技术缺陷：长文本检索陷入“周期性盲区”
字节Seed团队联合多校研究，发现DeepSeek-V4的分块KV缓存压缩架构存在长文本检索周期性盲区，不同Token位置检索准确率落差最高超40个百分点，揭露了传统长文本评测的盲区，DeepSeek已在V4.1改善但未完全消除缺陷。
实战·Agentic 上下文工程（上）：无需微调，让智能体自我学习与进化
在Agent时代，提示工程进化成上下文工程。斯坦福等团队提出Agentic Context Engineering（ACE），让智能体自我学习与进化。文章介绍了上下文工程的必要性、定义、常见策略，以及ACE的概念、原理与架构。