「上下文瓶颈」共找到 1209 篇相关文章
快手提出强化学习创新框架RLEP，突破大模型推理瓶颈
OpenAI等模型用强化学习提升推理能力，但面临训练不稳定等挑战。快手Klear团队提出RLEP框架，引入经验回放技术，分经验收集和回放训练两阶段，还采用优化策略，提升大模型训练效率和性能。
RL救不了泛化性！揭示LLM数学Reasoning的深层瓶颈
大型语言模型在数学竞赛级任务依赖机械化推理，现有评测集有缺陷。UC Berkeley团队提出OMEGA基准量化其数学泛化能力，实验揭示复杂度引发性能崩塌等问题，指出LLM创新组合难，给出改进方向。
ETT：打破原生多模态学习视觉瓶颈，重塑视觉tokenizer优化范式
本文由多机构联合完成，针对传统视觉 tokenization 方法优化与下游任务训练割裂问题，提出 ETT 调优方法。它实现联合优化，在多模态理解、生成、重构任务表现出色，虽有局限但带来新突破。
打破碎片化瓶颈！浙大&哈佛开源UniGeo，高保真相机可控编辑
当前主流相机可控图像编辑基于图像扩散模型，应对连续相机运动易出现问题。近日，浙大联合哈佛发布UniGeo框架，在三核心层面注入统一几何引导，克服结构退化，提升视觉质量与跨视角一致性。
Gemini桌面客户端终于上线：直接读取屏幕上下文，帮你解读一切！
谷歌推出Gemini的macOS原生客户端，支持全局快捷键拉起和窗口共享。它能突破浏览器限制，基于屏幕内容提供反馈，但目前离真正的桌面助手还有差距，后续有望补齐能力。
哈萨比斯：DeepMind才是Scaling Law发现者，现在也没看到瓶颈
哈萨比斯在Axios AI+峰会上称Scaling Law最早由DeepMind发现，靠它可能达成AGI，还预测未来12个月AI发展，如多模态融合、视觉智能突破等，且Gemini目标是成通用助手。
DeepSeek-V3.2-Exp：用稀疏注意力打破长文本效率瓶颈
在NLP领域，处理长文本时传统注意力机制效率低。DeepSeek团队推出DeepSeek-V3.2-Exp模型，引入稀疏注意力机制，在保持性能同时提高长文本处理效率，降低计算复杂度，在多基准测试中表现良好。
DeepSeek开源新模型，提出上下文光学压缩：LLM的新记忆方式
DeepSeek开源OCR模型，探索用多少视觉信息让LLM理解文本。实验表明1000字文档约需100个vision tokens，压缩比10倍、准确率97%。还提出模拟人类遗忘等想法，有多种应用场景，且完全开源。
思维链可无限延伸了，MIT等打破大模型上下文天花板
MIT等机构提出新架构Thread Inference Model（TIM），配合专用推理引擎TIMRUN，把推理过程变为树状递归子任务结构并修剪子任务，让模型突破输出窗口限制实现长程推理，实验验证了其性能。
突破遥操瓶颈！全新无本体数据世界动作模型Noe-0发布
穹彻智能发布世界动作模型 Noe - 0，全链路采用无本体采集数据。其数据来自真实环境，配合 World Action Model 架构和 AI - Native 数据基础设施，跑通从真实世界经验到机器人能力转化的完整链路，是具身智能的里程碑。