开源动态8
OpenDataLab:ODA助力SFT数据精准构建
深度学习自然语言处理
AI 摘要
上海人工智能实验室OpenDataLab团队:为摆脱‘盲盒式’微调,提出利用OpenDataArena评测反馈构建数据集的新范式,经数学推理和通用混合场景验证,能提升SFT数据构建效率。
阅读原文 · 深度学习自然语言处理
如何科学地“设计”SFT 数据?一次关于 ODA 的完整平台级验证
大模型后训练阶段,SFT数据构建常依赖‘直觉’或‘试错’。上海人工智能实验室OpenDataLab团队发布报告,基于OpenDataArena提出新范式,将数据集构建从‘随机艺术’变为‘确定性工程’,并进行平台级验证。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
九章云极问鼎陶哲轩数学挑战赛
本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分,解决28个未解决开放数学问题,介绍了其可验证AI+强化学习的AI4S布局。
机器之心
算法论文9
对错之外,推理轨迹暗藏训练价值
本文结合EchoRL、ReflectRL两项最新研究,重新解读推理轨迹的训练价值,解决全答对无强化信号、错题全丢弃的训练痛点,梳理方法设计、实验结果与适用边界,为大模型推理训练提供新参考。
深度学习自然语言处理
新闻资讯8
OpenAI攻破百道数学难题 普林斯顿介入
本文报道OpenAI最新AI进展,其内部新模型批量攻破100多道长期悬而未决的公开数学难题,联合普林斯顿高等研究院成立独立学术顾问小组规范成果评估,引发数学界震动。
AI寒武纪
算法论文8
人大DelTA算法提升强化学习推理正确率
人大高瓴研究团队提出DelTA算法,不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架,在多任务上提升base模型效果,还能让训练更稳定。
量子位