「长上下文困境」共找到 1349 篇相关文章
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。
长思维链里的推理步骤，哪些最关键？三招锁定LLM的「命门句子」
杜克大学和 Alphabet 研究者提出在句子层面分析推理痕迹，找出长思维链中关键步骤，提高 LLM 可解释性等。提出三种互补方法，还提供开源工具，研究为调试推理失败等提供可能。
EMNLP 2025 | CARE：无需外部工具，让大模型原生检索增强推理实现上下文高保真
MetaGPT等机构团队发布CARE框架，可让LLM将推理上下文与自身检索能力结合，已全面开源。它提出原生检索增强推理范式，采用两阶段训练策略，在问答基准实验中表现出色，为解决模型问题提供新路径。
满分的「差」，Qwen与复旦等揭示编程智能体奖励设计的结构性困境
Qwen团队与复旦等联合发表论文《The Verification Horizon: No Silver Bullet for Coding Agent Rewards》，指出编码智能体奖励设计存在结构性困境，任何奖励信号只是人类意图的‘替身’，验证需成系统与智能体协同演化，并研究多种验证者。
Cursor 1.3 ~ 1.6 版本更新全梳理：终端不再挂、Agent 更聪明、上下文更可控
Cursor 1.3 - 1.6 版本有诸多更新。如自定义斜杠命令、改进 Agent 终端、升级 Agent 能力、增加左侧边栏管理等，还在上下文控制、工作流保护、MCP 资源支持等方面有优化。
VLA大模型做长任务总断片？同济KC-VLA用关键帧链给治好了
VLA大模型记性是短板，处理非马尔可夫任务常束手无策。同济大学等提出KC - VLA框架，用关键帧链接赋予机器人全局时间感知能力，还构建了长时序记忆依赖基准测试，实验显示其性能优越。
LLM长文本内卷，谁是真英雄？告别跑分玄学，我们需要一把“公道秤”
OpenNLG Group做了统一长上下文评估框架LOOM - Scope，兼容主流benchmark、model和长上下文加速方法。该框架围绕BENCHMARK、DEPLOYMENT和EVALUATOR三大核心模块，还提出LOOM - Bench应对评估成本制约。
字节突然开源Seed-OSS，512K上下文碾压主流4倍长度！推理能力刷新纪录
字节跳动突发开源360亿参数的Seed-OSS-36B，呼应OpenAI开源策略。它有512K超长上下文，引入“思考预算”机制。多项基准测试达开源SOTA，字节Seed团队此前也开源多个项目。
1万tokens是检验长文本的新基准，超过后18款大模型集体失智
Chroma团队研究发现，将上下文扩展至1万tokens，18款主流大模型集体“失智”，“智商”非均匀下降，在一些节点会断崖式下跌。研究还设计四项对照实验，证明LLMs性能随输入长度增加显著且非均匀下降。
MiniMax重磅开源M1模型：百万上下文超DeepSeek R1，实现性能与效率双杀
MiniMax正式开源首个推理模型M1，原生支持百万级上下文长度，在推理效率、计算成本和复杂任务能力上有独特表现。其在性能和效率上超越DeepSeek R1等模型，还提出创新强化学习算法。