搜索：大模型强化学习

「大模型强化学习」共找到 8267 篇相关文章

最懂英伟达的CoreWeave，为啥突然花钱买了个强化学习作坊？

算力巨头CoreWeave市值达483.9亿美元，收购专攻强化学习训练AI智能体的OpenPipe。CoreWeave想打造全能平台，此前已收购W&B，此次收购标志其涉足智能体核心训练环节。OpenPipe的ART框架有独特优势。

今天凌晨，ChatGPT 迎来重磅更新，推出 Study Mode（学习模式）。该模式下，ChatGPT 会帮助用户一步步解决问题，化身导师引导学习。它有交互式提示等多种功能，免费用户也能用，系统提示词还被公开。

清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。

西北工业大学孙旭翔博士的论文聚焦航空航天湍流模拟难题，结合数据驱动与同化方法，构建全流程框架，提出数据同化与模型修正方法，设计集成框架，实现高雷诺数复杂流动精确高效模拟。

文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。

大模型推理能力难迁移到小模型，现有强化学习方法如GRPO在小模型上性能提升有限。香港中文大学（深圳）唐晓莹教授团队提出G²RPO - A算法，缓解小模型奖励稀疏问题，在多模型实验中表现优于vanilla GRPO。

左奎军博士论文聚焦基于机器学习的复杂流场预测，以多种对象构建智能流场预测网络架构，发展耦合求解方法，剖析核心要素影响，提出多个创新模型和策略，还分析了不同模型在流场预测中的表现与问题。

近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。

清华大学和快手可灵团队推出DiffMoE，通过创新的动态token选择机制和全局token池设计，拓展了扩散模型的效率与性能边界。实验表明，DiffMoE在多方面超越现有模型，未来集成先进技术或有新增益。

英伟达ARC - AGI 2中，4B小模型NVARC以27.64%成绩力压GPT - 5 Pro登顶，单任务成本仅其1/36。亮点是零预训练深度学习法，还靠合成数据、测试时微调等策略。小模型特定领域优化后优势明显。