「长上下文」共找到 1167 篇相关文章
清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026
大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。
Codex正式开放1M上下文！解除GPT-5.6 Sol封印，三行配置搞定
现在3行配置就能让GPT - 5.6 Sol封印解除，在Codex里用上1M上下文。不过有网友警告轻易别用，因超出默认窗口，模型消耗token速度会翻倍，且模型上下文利用能力会下降。此外，Codex确定会上Astra。
LLM 长文本处理的“不可能三角”？我们用 E2LLM 把它破解了！
长文本理解与推理是LLM的难题，存在效果、速度、兼容性的“不可能三角”。蚂蚁集团和华东师范大学提出E2LLM新范式，实现三者平衡，在效果和效率上表现出色，开启长文本处理新篇章。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
实战·Agentic 上下文工程（上）：无需微调，让智能体自我学习与进化
在Agent时代，提示工程进化成上下文工程。斯坦福等团队提出Agentic Context Engineering（ACE），让智能体自我学习与进化。文章介绍了上下文工程的必要性、定义、常见策略，以及ACE的概念、原理与架构。
长视频AI数字人来了！字节×浙大推出商用级音频驱动数字人模型InfinityHuman
随着内容创作智能化需求爆发，长时长、高质量数字人视频生成是痛点。字节跳动联合浙大推出商用级模型InfinityHuman，打破传统技术局限，解决身份漂移和细节失真难题，已实现多场景商用。
比Vibe Coding强100倍！字节 Trae 2.0 携“上下文工程”登场：一句话，从需求干到上线！
字节跳动的AI编程助手Trae发布2.0版本，新增SOLO模式，支持端到端开发流程。上下文工程热度攀升，能解决AI代码落地问题。Trae迭代快，从基础问答进化为智能体系统。
QwenLong-L1.5发布：一套配方，三大法宝，让30B MoE模型长文本推理能力媲美GPT-5
通义文档智能团队推出QwenLong - L1.5长文本推理专家，提供端到端长文本推理后训练“配方”，含数据合成管线、强化学习方法、智能体架构，在多基准测试成绩佳，代码已开源。
前 Codex 大神倒戈实锤！吹爆 Claude Code：编程提速 5 倍，点破 OpenAl 死穴在上下文
OpenAI Codex 早期研发者 Calvin French - Owen 在播客中锐评代码智能体，偏爱 Claude Code，称其搭配 Opus 模型写代码速度提 5 倍。他强调上下文管理重要性，还对比了 Claude Code 与 Codex 产品理念差异。
告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆
当前大语言模型在长周期任务中，长时持久记忆管理陷入“精度不够”和“成本太高”的两难困境。中国人民大学团队提出MemSifter框架，将记忆检索工作外包给轻量级代理模型，在8个权威测试中超越现有方案，且已开源。