RL后训练」共找到 3817 篇相关文章

算法论文8

当SFT遇上RL:基于样本学习阶段的动态策略优化机制

在大模型推理能力增强研究中,SFT和RL两种训练范式难有效融合。研究团队提出DYPO动态策略优化方法,先判断样本学习阶段再匹配优化路径,在多场景实验中表现出色,不过有实验边界。

量子位
新闻资讯7

刚刚,DeepSeek最新发文!V3/R1训练细节全公开,信息量巨大

网信办新规生效,DeepSeek回应,标注AI生成内容,公开V3/R1训练细节。介绍训练分预训练和优化训练,深挖数据使用,还谈及推理、开源情况,也提到对抗AI幻觉与滥用风险的措施。

新智元
算法论文8

从繁杂技巧到极简方案:ROLL团队带来RL4LLM新实践

当前RL4LLM领域发展快但存在标准、结论不一及机制解释不足等问题。阿里巴巴淘天集团和爱橙科技联合高校基于ROLL框架研究,评估关键技术组件,提出简化算法Lite PPO,在多基准上表现佳。

机器之心
新闻资讯7

OpenAI华人AI大牛集体跳槽Meta!清华北大浙大中科大校友各一位,多模态训练、感知团队负责人全走了

扎克伯格从奥特曼手里挖走4名OpenAI华人顶尖AI人才,包括中科大、浙大、清华、北大校友各一位。OpenAI或提高薪酬留人,人才争夺战成本升高,这也是开源与闭源阵营的交锋。

量子位
算法论文8

GPU 开始伸手进算法了:摩尔线程要加速 3D 高斯训练 | ECCV 2026

摩尔线程团队论文LiteGS被ECCV 2026接收,旨在加速3DGS训练。它从GPU底层光栅化、数据排列及致密化判断三层改进,进行系统与算法协同设计,开源成果显著。

AI科技评论
新闻资讯7

95,边改造业务边发AI顶会论文,是怎样的体验?

当下AI人才竞争激烈,企业各出奇招。今年5月京东技术沙龙零售专场,技术团队分享成果。几位95青年专家讲述成长历程,如洛川解决CTR模型训练瓶颈,谦屹发表多篇顶会论文。京东还推出人才计划吸引人才。

机器之心
开源动态8

英伟达韩松团队新作:具有神经架构搜索的高效语言模型

英伟达韩松团队推出基于神经架构搜索的高效语言模型Jet - Nemotron,在基准测试中表现出色,准确率与Qwen3等相当甚至更优,生成吞吐量大幅加速。模型构建经多步骤优化,代码和预训练模型将开源。

量子位
开源动态8

阿里Qwen3技术报告核心要点解读!

阿里Qwen3技术报告发布,披露模型架构、预训练训练等技术细节。其有密集与混合专家两种模型架构,预训练数据量和语种增多,训练采用强到弱蒸馏提升性能,各模型表现优异。

PaperAgent
算法论文8

打破「数据暴力」预训练惯性,阿里Qwen、上交大等提出预训练动态数据选择范式OPUS

阿里Qwen、上交大等团队提出预训练动态数据选择范式OPUS,打破“数据暴力”预训练惯性。它将数据选择与优化器更新轨迹对齐,提升预训练效率与下游泛化表现,实验显示其“效率+性能”双提升。

机器之心
开源动态8

3A大作!阿里ROLL团队从基建->算法->机理,推动RL4LLM全栈协同优化

阿里巴巴ROLL团队联合高校推出「3A」协同优化框架,推动「强化学习用于大语言模型(RL4LLM)」迈向新范式。Async架构提升GPU利用率,AsyPPO降低计算资源消耗,Attention机制提升训练效率与可解释性。

机器之心