「强化预训练」共找到 2553 篇相关文章
LLM-in-Sandbox：给大模型一台电脑，激发通用智能体能力
来自中国人民大学、微软研究院和清华的研究者提出LLM - in - Sandbox范式，让大模型在代码沙盒完成任务，实验显示其能提升多领域表现，无需额外训练，还能减少token消耗，研究者认为应取代纯LLM推理。
60000小时炼出新开源VLA！20多种机器人都能用
蚂蚁灵波发布开源VLA模型LingBot-VLA 2.0，用60000小时预训练数据“喂”出。它支持20多种机器人构型，融合LingBot-Depth提升空间理解，还学会预测未来，在GM - 100评测表现佳。
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
智能体「卷王」诞生！干活自动配结项报告，1.5张截图就把事说清了
在LLM/VLM驱动的智能体强化学习研究中，验证完成度是挑战。为此提出SmartSnap方法，让智能体成“质检员”，主动留痕存证。它有三大突破，表现惊艳，简化训练准备，让AI更可靠。
DeepMind 颠覆机器人学习范式：让机器像人一样 “自由成长”
谷歌DeepMind受大模型微调中强化学习阶段启发，提出面向机器人学的两阶段后训练方法，含监督微调与自我提升。实验显示该方法让机器人自主习得新技能、广泛泛化，但研究也存在标注成本高等局限。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
快手&中科院 | 提出多模态奖励模型：R1-Reward，比SOTA模型提升5%-15%！
多模态奖励模型对提升多模态大语言模型表现至关重要，但现有强化学习算法用于训练存在问题。快手、中科院等团队提出 R1 - Reward，在基准上比 SOTA 提升 5% - 15%，还在快手业务场景成功应用。
GPT-5系列咋都爱说「哥布林」？原因找到了
OpenAI发布博客解释模型迷上「哥布林」的原因。原来是训练“Nerdy”人格时，奖励信号偏爱怪物词汇，强化学习将风格固化并扩散到普通对话。此前DeepSeek V3.1也出现过「极」字Bug。
10万token自然语言推理，让30B-A3B模型站上奥赛金牌线
上海人工智能实验室报告显示，30B - A3B规模的SU - 01模型不依赖外部工具，经训练在IMO、USAMO、IPhO等奥赛评测达金牌水平。研究还验证更高效科学推理系统路线，有望用于更多科学问题。
碾压DeepSeek V3！开源AI Agent专属模型，1万亿参数、工具使用能力超强
国内大模型平台月之暗面开源了模型Kimi - K2，这是混合专家模型，总参数1万亿。它针对AI Agent优化，工具使用能力强。测试显示其性能碾压DeepSeek V3等模型，训练流程还有独特技术创新。