搜索：长上下文建模

「长上下文建模」共找到 1393 篇相关文章

奖励模型预训练新范式POLAR：突破强化学习短板，有望打通RL链路扩展“最后一环”

强化学习中奖励模型设计与训练是瓶颈，上海人工智能实验室提出奖励建模新范式POLAR。它摆脱传统“绝对偏好”限制，契合强化微调框架，通过对比学习训练，实验证明其性能和泛化性佳，有望打通RL链路扩展最后一环。

Meta发布40页报告，首次将对人心智状态的推断概念化为心智世界模型，与物理世界模型实现“双轨建模”。还指出要结合系统A和B让AI自主学习，心智世界模型在多智能体协作潜力大。

出门问问创始人李志飞在「TicNote」发布会上分享「一人公司」实验。他用AI编程工具2天做出AI时代“飞书”原型，还谈了使用AI编程问题、对智能和Agent思考等，重新找回AGI信仰。

文章指出一些人认为多模态方法能实现AGI，但作者觉得此策略会失败。真正的AGI要理解物理世界，而LLMs只是记忆规则。此外，规模最大化方法用于AGI有数据稀缺问题，多模态建模也存在诸多问题。

阿里云正式发布面向智能体时代的Qwen3.7-Max模型，将通过API提供服务。它能力全面，编程、办公、长周期执行等表现出色，适配多框架，在多场景评测中领先，能驱动生产力跃升，还经多实战测试验证实力。

Codebuff是开源AI编程助手，获超5.1k stars。其多智能体架构让不同智能体分工协作，理解代码上下文更好、编辑更准。官方测试中完成率61%，超Claude Code。它免费且上手简单，还能创建自定义智能体。

文章反思‘知识库+Prompt工程+工具调用’轻量级Agent构建模式局限，指出其难应对知识质量、语义理解与规模化维护挑战。提出从‘Prompt驱动’到‘上下文工程’、从‘搭积木组装’到‘全链路闭环’的范式跃迁，并介绍MktAI知识体系建设。

社区里长期存在的FlashAttention+BF16训练GPT - 2时loss突然爆炸的问题，清华团队论文给出机制解释。指出是特定条件下数值偏置被放大所致，还给出极小修改稳定训练，且在多模型和硬件上验证有效。

本文以三维各向同性湍流为例，提出面向神经算子的可信度评估框架，考察预测误差不确定度、长时迭代稳定性及流场时间相关性对模型可靠性的影响。结果显示，物理约束和合理时间步长可提升模型稳定性与可靠性。

现有抓取研究多在稳定性层面，而功能性抓取更接近真实世界的智能。北大卢宗青团队提出DemoFunGrasp方法，对功能性抓取重新建模，在仿真与真实场景均超70%成功率，还引入视觉语言模型让机器人理解语言指令。