算法论文8
阿里Qwen等提出OPUS预训练新范式
机器之心
AI 摘要
阿里Qwen、上交大等团队提出OPUS范式:不再按传统思路筛数据,而是把数据选择与优化器更新方向对齐。实验表明,它能提升效率和性能,让预训练进入“更新效率战”。
阅读原文 · 机器之心
打破「数据暴力」预训练惯性,阿里Qwen、上交大等提出预训练动态数据选择范式OPUS
阿里Qwen、上交大等团队提出预训练动态数据选择范式OPUS,打破“数据暴力”预训练惯性。它将数据选择与优化器更新轨迹对齐,提升预训练效率与下游泛化表现,实验显示其“效率+性能”双提升。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
开源动态9
七校联合开源机器人世界模拟器OpenWAM
来自新加坡国立大学、清北等七所高校的研究团队,开源面向世界动作模型的全栈研究基础设施与基座OpenWAM,拆解核心问题,通过实验总结出高性能WAM构建原则,已通过仿真与真实机器人验证。
机器之心
产品应用8
灵初较真机器人训练数据质量
本文聚焦机器人学习人类操作的数据痛点,灵初智能提出逆向生成强配对数据的新思路,升级Psi-R2.5模型,提升数据可用性,降低新任务适配成本,方案已落地客户现场。
量子位
算法论文9
预训练Token消耗腰斩 开源隐空间大模型
本文介绍上海AI Lab与上海交大团队联合提出全新预训练任务NCP,打破传统逐词预测教条,开源全球首个8.9B规模离散隐空间基座大模型,预训练Token消耗仅需一半,收敛速度提升近一倍,下游性能显著提升,公开全部训练资产供全球研究使用。
机器之心
算法论文8
腾讯混元ToolCPT:革新Agent工具预训练
腾讯混元团队在 ACL 2026 Findings 发布的 ToolCPT 指出,Agent 用不好工具病根在预训练。它从真实代码挖工具,写说明书,融入预训练,实验显示能有效提升工具运用能力,但也有局限和成本。
PaperAgent