「上下文瓶颈」共找到 1250 篇相关文章
从《塞尔达传说》理解 Agent 的上下文工程：Claude Skills 还是被低估了
Claude Skills 是为 AI 设计的「技能包」，能把复杂任务指令打包。作者认为其信息分层设计哲学是关键突破，以《塞尔达传说》为例，介绍了信息分层和按需加载理念，还阐述了三层架构及应用案例、挑战和通用原则。
打破长视频理解瓶颈：HoPE混合位置编码提升VLM长度泛化能力
如今视觉语言模型在长上下文任务表现不佳，CMU和小红书团队深入研究，首次提出多模态RoPE扩展策略理论评估框架，指出现有泛化能力不足原因，提出HoPE大幅提升VLM长度泛化能力。
突破通用领域推理的瓶颈！清华NLP实验室强化学习新研究RLPR
现有基于可验证奖励的强化学习（RLVR）应用范围局限，清华自然语言处理实验室提出 RLPR 技术，通过 Prob - to - Reward 提高概率奖励质量，有领域无关等特点，相关代码等已开源。
华为| 祭出FlashComm1，FlashComm2、FlashComm3，解决LLM推理通算瓶颈
在大模型推理面临通算难题背景下，华为数学家祭出FlashComm 1、2、3。如FlashComm 1优化AllReduce通信，提升推理性能；FlashComm 2重构计算流程，提升推理速度；FlashComm 3实现多流并行，激增模型吞吐。
小米万亿模型全面开源：MIT 协议、1M 上下文，但还是打不过 DeepSeek
小米开源 MiMo-V2.5 和 MiMo-V2.5-Pro 两款模型，采用 MIT 协议，适合商业应用。在基准测试中表现出色，有竞争力价格和限时优惠。但与 DeepSeek 比，架构创新偏工程化，也有推理表现不足等问题。
突破后训练瓶颈？Meta超级智能实验室又一力作：CaT解决RL监督难题
AI后训练依赖监督微调或程序化检查器，但很多有价值任务缺这两种资源。Meta超级智能实验室等机构研究者提出CaT方法，把推理时额外计算当教师信号，为大模型提供监督，实验显示效果显著。
隐藏超多上下文工程（Context Engineering）技巧的框架，来试一试吧！
文章指出多数人构建的AI Agent像Shallow Agent，处理复杂任务能力弱。以Claude Code等为例，介绍深度Agent架构的秘密，如冗长提示词、规划工具等，还推出开源包deepagents方便上手。
Pinecone 推出 Nexus 引擎：为 AI 智能体整合业务上下文并生成结构化数据
Pinecone Nexus 全面上线，是面向 AI 智能体的“知识引擎”，能将企业数据转为结构化数据层，复用数据提准确性、降成本。早期采用者在金融、法律领域看到显著性能提升，词元消耗大幅降低。
GRPO遭遇瓶颈？G²RPO-A让自适应指导为小模型推理能力「开外挂」
大模型推理能力难迁移到小模型，现有强化学习方法如GRPO在小模型上性能提升有限。香港中文大学（深圳）唐晓莹教授团队提出G²RPO - A算法，缓解小模型奖励稀疏问题，在多模型实验中表现优于vanilla GRPO。
CapRL：用强化学习突破Image Captioning训练瓶颈，3B模型性能媲美72B
上海人工智能实验室联合团队发布 CapRL，首个将 DeepSeek - R1 强化学习策略用于 Image Captioning。CapRL - 3B 模型在图像描述任务媲美 Qwen2.5 - VL - 72B，已开源，团队持续迭代优化。