算法论文8
斯坦福英伟达:测试时强化学习让开源模型逆袭
量子位
AI 摘要
斯坦福、英伟达等研究提出TTT - Discover方法,在测试时用强化学习更新开源模型权重。通过熵目标函数和PUCT机制解决数据问题,成本低且表现佳,不过目前仅适用于连续奖励场景。
阅读原文 · 量子位
斯坦福英伟达推出测试时强化学习:微调开源模型胜过顶级闭源模型,仅需几百美元
斯坦福、英伟达等提出TTT - Discover方法,基于开源模型gpt - oss - 120b,在测试阶段引入强化学习更新模型权重。它采用熵目标函数和PUCT启发机制,解决分布外问题,成本低且表现优,但目前适用于连续奖励场景。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章8
小众模型如何冲上Hugging Face热榜
本文拆解了网易有道新开源的真流式语音识别模型R2T2,从冷启动到登顶Hugging Face ASR热榜第一的完整路径,总结了小众开源模型冲榜的实操经验,对开源项目运营有较高参考价值。
AGI Hunt
算法论文9
对错之外,推理轨迹暗藏训练价值
本文结合EchoRL、ReflectRL两项最新研究,重新解读推理轨迹的训练价值,解决全答对无强化信号、错题全丢弃的训练痛点,梳理方法设计、实验结果与适用边界,为大模型推理训练提供新参考。
深度学习自然语言处理
算法论文8
小偏差为何带偏大模型RL训练
本文解读Together AI的新算法论文,讲解大模型强化学习中,采样端与训练端的微小偏差如何累积放大导致训练跑偏,介绍Score Centering校正方法的原理、效果与应用边界。
深度学习自然语言处理
开源动态9
小米6天烧2000万拿下开源第一大模型
本文报道小米开启史无前例的大模型训练直播,6天花费约2344万元完成MiMo-V2.6系列强化学习训练,训练出的MiMo-V2.6-Pro登顶开源大模型第一,全套技术资源全部开源,引发AI行业热议。
量子位