「策略学习」共找到 2129 篇相关文章
成立7个月首发声！百亿美金独角兽万字雄文：攻克LLM推理非确定性难题
估值120亿美元的Thinking Machines Lab成立7个月首次公开研究成果，揭示LLM推理非确定性的真凶是kernel缺乏批处理不变性。介绍了实现批处理不变性的方法，还通过实验展示其效果及对同策略强化学习的意义。
奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式
在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。
首创Mid-training范式破解RL奥秘，Llama终于追平Qwen！
上海创智学院和上海交通大学研究团队深入探讨不同基础语言模型在强化学习训练中的差异，提出中期训练策略，将 Llama 改造成适配 RL 的推理基础模型，缩小与 Qwen 性能差距，还发布了 MegaMath-Web-Pro-Max 数据集。
腾讯AI Lab首创RL框架Parallel-R1，教大模型学会「并行思维」
腾讯AI Lab等机构研究者首创Parallel - R1框架，通过强化学习让大模型掌握并行思维。它解决了RL训练的冷启动和奖励设计难题，在多数学基准上提升准确率，还揭示模型思维策略变化及并行思维的‘脚手架’作用。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展，涵盖关键算法设计、奖励机制创新及实际应用，探讨了RL在LLMs/MLLMs中的关键设计与优化策略，还涉及多模态大模型推理多方面内容。
游戏教父 John Carmack：LLM 不是游戏的未来
游戏教父 John Carmack 认为 LLM 不是游戏未来，强调交互式体验学习重要性。他分析游戏学习现状，指出 Atari 游戏研究虽有成果但仍存问题，还探讨强化学习多方面挑战及应对思路。
Sutton 的批评与反思：AGI 的下一步是什么？
文章是对 Richard Sutton 采访的反思，指出 LLM 训练效率低、依赖人类数据，未实现有机自主学习。作者与 Sutton 有分歧，认为模仿学习与强化学习互补，还探讨持续学习，称 Sutton 批评有启发性。
LLM的快速、慢速与工具增强思维模式综述
大型语言模型在不同任务中对推理策略需求差异大，策略选择不当会影响效率与可靠性。本文提出双重知识边界框架，梳理LLMs推理模式，将策略选择形式化，还分析了决策因素及策略选择机制。
毕树超入职Meta后首发声：十年前怀疑AGI，如今深信AGI已至！
Meta超级智能团队成员毕树超回溯70年AI进化，称多数人低估AI影响，从怀疑到深信AGI已至。他阐述技术进展、难题与趋势，分享研究心路，回顾自监督学习、强化学习等发展，打破诸多机器学习误解。
强化学习也遇到了“天花板”？Andrej Karpathy构建了一个新算法
大神Karpathy肯定强化学习（RL）价值，指出其比监督微调更具扩展性，但存在渐进式学习低效、背离人类学习机制的局限。他提出“第二天性”新范式算法，还面临泛化等挑战。