搜索：长上下文模型

「长上下文模型」共找到 8176 篇相关文章

告别微调！斯坦福提出Agentic上下文工程

当前微调大语言模型成本高、不灵活，‘上下文适应’方法有短板。斯坦福大学等提出ACE框架，将上下文变为动态‘战术手册’，解决现有问题。论文通过实验验证其在性能、成本和效率上优势，为大模型发展指明新方向。

字节给豆包升级编程能力，推出首款编程模型Doubao - Seed - Code。它刷新国内编程模型上下文长度，支持视觉理解，API价格良心。经测试，虽未达全球顶尖，但弥补国产编程模型短板。

文章介绍了斯坦福与SambaNova联手发布的ACE框架。它解决传统提示工程缺陷，将提示工程升级为智能体自我演化体系。通过“生成 - 反思 - 策展”闭环，实现上下文低成本、低延迟、高扩展演化，小模型搭配它能击败大模型+传统提示。

Thinking Machines发布交互模型，切入与AI交互方式问题。该模型能原生支持实时交互，由交互和后台模型组成。架构设计独特，解锁多项功能，评测表现佳，但也存在长会话、计算部署等局限。

Qwen团队发布长上下文Reasoning模型QwenLong - L1。当前大模型处理长文本有训练效率低、过程不稳定难题。QwenLong - L1用分阶段强化学习等方法，实验中超越o3 - mini、比肩Claude，还在案例表现出色。

中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。

通义文档智能团队推出QwenLong - L1.5长文本推理专家，提供端到端长文本推理后训练“配方”，含数据合成管线、强化学习方法、智能体架构，在多基准测试成绩佳，代码已开源。

近日，B站语音团队推出全新一代语音合成模型IndexTTS2，提供影视级音质、情绪克隆和时长控制。其情绪与时长精细控制功能全球首创，还具备零样本语音克隆等能力，支持本地运行与中英文双语。

大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。

Anthropic 两位研究员在采访中表示 2025 年强化学习在大语言模型训练奏效，如 Opus 4 能处理长周期任务。还探讨模型发展方向，如用户与多模型交互、模型可解释性等，认为未来会有白领 AI 员工。