算法论文8
TrajSelector:0.6B模型撬动复杂推理
AIGC开放社区
AI 摘要
哈工大、中科院等提出TrajSelector框架,通过复用模型隐藏状态和弱监督训练,用0.6B验证器超越7B裁判模型。在数学竞赛基准测试表现佳,还能筛选数据,但在开放域问答待解难题。
阅读原文 · AIGC开放社区
哈工大、中科院等利用模型“潜意识”提高推理模型效率,0.6B撬动复杂推理
哈工大、中科院等提出TrajSelector框架,让推理模型‘倾听内心独白’。它利用模型隐藏状态,用0.6B轻量级验证器实现比7B裁判模型更精准选择,在数学竞赛基准测试中表现出色,还能离线筛选数据,但在开放域问答有难题。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文9
对错之外,推理轨迹暗藏训练价值
本文结合EchoRL、ReflectRL两项最新研究,重新解读推理轨迹的训练价值,解决全答对无强化信号、错题全丢弃的训练痛点,梳理方法设计、实验结果与适用边界,为大模型推理训练提供新参考。
深度学习自然语言处理
新闻资讯8
OpenAI攻破百道数学难题 普林斯顿介入
本文报道OpenAI最新AI进展,其内部新模型批量攻破100多道长期悬而未决的公开数学难题,联合普林斯顿高等研究院成立独立学术顾问小组规范成果评估,引发数学界震动。
AI寒武纪
推荐文章9
万字拆解GPT-6 Astra与循环Transformer
著名技术博主Sebastian Raschka针对GPT-6 Astra的循环Transformer设计与隐藏思维链争议,万字详解技术细节,分享Astra实测表现,梳理循环Transformer技术演进,澄清相关误解。
机器之心
算法论文8
人大DelTA算法提升强化学习推理正确率
人大高瓴研究团队提出DelTA算法,不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架,在多任务上提升base模型效果,还能让训练更稳定。
量子位