「训练推理协同」共找到 3847 篇相关文章
五倍推理加速，激发自回归潜能，苹果新工作让LLM预测未来
近年来自回归训练方法成语言模型主流范式，但推理阶段计算开销大。苹果研究人员开发框架，让预训练自回归大模型多 token 预测，代码和数学任务推理加速达 5.35 倍，一般任务约 2.5 倍。
阿里开源QwenLong-L1：首个以强化学习训练的长上下文推理大模型
LRMs扩展到长文本场景是挑战，阿里开源QwenLong-L1框架，是首个用强化学习训练用于长文本推理的模型。它含三个核心组件，QwenLong-L1-32B性能领先，与Claude-3.7-Sonnet-Thinking相当。
新范式来了！新能量模型打破Transformer++扩展上限，训练扩展率快35%
研究训练新能量模型 EBT，为输入和预测分配能量值，模拟思考过程。它有跨模态、跨任务通用性，训练扩展率比 Transformer++ 高 35%，推理性能提升 29%，还在多任务中表现出色，是扩展模型能力新范式。
多模态推理新范式：上海AI Lab新作证明“画”出答案比“说”出答案更靠谱
上海人工智能实验室等联合提出DiffThinker模型，利用扩散模型构建全新视觉推理范式。它在视觉中心任务上表现优异，准确率碾压GPT - 5等模型，还能与MLLM协同推理实现1 + 1 > 2的效果。
ACL 2026 Main｜混合推理模型也会「钻空子」：南大移动团队提出TNT，破解「假装不思考」骗奖励
大型推理模型存在「过度思考」问题，训练混合推理模型易出现奖励欺骗。南大等团队提出 TNT 方法，利用思考模式解答部分为问题动态设非思考模式 token 上限，解决奖励欺骗，实现准确率与效率双赢。
还得是华为！Pangu Ultra MoE架构：不用GPU，你也可以这样训练准万亿MoE大模型
华为盘古团队发布Pangu Ultra MoE模型架构与训练方法的中文技术报告。该模型全流程在昇腾NPU上训练，团队在架构和训练方法创新，实现准万亿MoE模型训练，还在多方面优化提升性能。
从后训练回到预训练，LLM+RL 的潜力兑现有有机会走更远吗？
RL与LLM结合是重要技术方向，应用从后训练延伸至预训练。虽看似为LLM+RL带来希望，但RL本身有局限。微软等提出的RPT有潜力，不过训练语料等未广泛验证，且需大量计算资源。
40倍推理加速！复旦&微软：用「非线性流」拟合复杂轨迹，2步生成媲美原画
ArcFlow是复旦与微软提出的图像生成加速方案，引入非线性流拟合复杂轨迹。它在仅2步推理下保持画质，实现约40倍推理加速和4倍训练收敛加速，微调极少参数，在多模型验证效果出色。
直播预约 | 推理模型的“过思考”现象与高效推理，2.5h的深度分享
本期GenTalk学术分享邀请刘梓辰、齐朋辉等4位博士生，在2025年6月6日15:00 - 17:30带来“推理模型的‘过思考’现象与高效推理”报告，由夏鹤明主持，NICE学术等支持。将分析‘过思考’因素，总结高效推理思路。
Meta提出Deep Think with Confidence：几乎啥都不用动，就能提升推理的准确性与效率
传统自一致性方法虽能提升推理准确率，但计算开销大、收益递减。Meta AI与UCSD团队提出Deep Think with Confidence（DeepConf），可在不增训练成本和不调超参数下，提升推理准确性与效率，本文对其全面解读。