「训练导向问题」共找到 4887 篇相关文章
推理能力再突破！蚂蚁 | 提出Agentic Deep Research新范式，可信度同步增加
尽管LLM能力提升，但复杂任务表现受静态知识限制。业界提出Agentic Deep Research系统，现存系统训练有梯度冲突和奖励稀疏问题。蚂蚁团队提出Atom - Searcher，创新推理范式，构建细粒度奖励，结合奖励训练，实验效果佳。
入局AI Infra：程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统，系统性拆解AI Infra的硬件、软件、训练和推理挑战，如硬件从CPU到GPU、软件依赖深度学习框架，还分析训练和推理面临的问题及解决办法。
缺数据也能拿SOTA？清华&上海AI Lab破解机器人RL两大瓶颈
现有机器人视觉 - 语言 - 动作（VLA）模型训练范式存在数据采集成本高、泛化能力不足等问题。清华和上海AI Lab团队提出SimpleVLA-RL，解决了VLA模型训练的核心瓶颈，在多基准测试中实现SoTA性能。
硬核「吵」了30分钟：这场大模型圆桌，把AI行业的分歧说透了
在WAIC 2025大模型论坛的“模型之问”圆桌中，多位行业大佬围绕大模型展开辩论，话题涉及训练范式、模型架构、数据、开闭源等核心问题，不同观点碰撞，深入探讨大模型技术演进与发展之路。
SimpleTIR：让大模型“边写代码边思考”不再崩溃
SimpleTIR可解决多轮工具调用中训练崩溃问题。作者指出崩溃原因是分布偏移、低概率token链式雪崩和梯度爆炸。它采用void turn过滤，掐断崩溃链路，训练稳定，还催生多样推理行为，且工程友好已开源。
DeepSeek-GRPO重要性权重设计错误？详解Qwen3新强化学习算法GSPO
论文指出GRPO在大语言模型训练中不稳定，因其重要性权重设计错误易引入高方差噪声。为此提出GSPO算法，从序列维度计算梯度，解决了MoE模型RL训练的稳定性问题，在Qwen3上效率更高。
RL 效率无损飙升 3 倍：厦大-Shopee-清华联合首创，将投机解码首次引入 RL，推理能力稳如初！
传统RLVR训练中，rollout阶段耗时成瓶颈。厦大 - Shopee - 清华联合团队提出SPEC - RL，将投机解码引入RL，训练提速2 - 3倍，避免重复生成，与主流算法兼容，在多项基准测试中性能稳定。
港大赵恒爽团队论文：让扩散模型既拿高分又不「作弊」丨CVPR 2026
扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。
多模态大模型别盲目刷题！诊断-生成-强化闭环，找准盲点 | ICML'26
多模态大模型训练常采用‘题海战术’，存在能力诊断不精准、视觉内容缺乏扩展等问题。北大和山大团队提出DPE框架，通过‘诊断-生成-强化’闭环提升模型能力，实验效果显著，还强调训练应具备诊断能力。
Sea AI Lab 揭秘：你费尽心力调的 LLM 一直在崩溃？罪魁祸首可能只是一个参数：BF16
Sea AI Lab 和新加坡国立大学研究指出，强化学习微调中训练不稳定和性能瓶颈，根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”，使训练易失败。将精度切换到 FP16 可解决问题，提升模型表现。