算法论文8

蚂蚁OmniTable驯服3050亿条训练数据

量子位2026-09-03

AI 摘要

蚂蚁集团：自研统一宽表系统OmniTable聚焦大模型数据准备，管理超35PB、3050亿条以上数据，SFT任务端到端周期从约14天缩至2.5天，节省工程师协调和重跑时间。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

万卡RL训练：如何选最优Batch Size

本文是腾讯混元团队针对大模型强化学习规模化训练的研究，聚焦万卡级算力下Batch Size优化问题，拆分样本效率与系统效率的影响，给出可落地的调优框架，实测可缩短29%训练时间。

本文拆解十万卡GPU集群的核心痛点，指出其难点并非硬件堆叠，而是系统调度、稳定性等工程能力，介绍摩尔线程全栈布局及与京东云合作打造国产十万卡集群的行业信号。

北京中关村学院7名跨专业博士生，耗时3个月从零训练出7B参数大模型ZGCM-1，采用数百个Agent协作实践AI4AI研发范式，全程公开代码、数据、权重、训练日志，分享一线实战经验。

斯坦福教授Percy Liang宣布由Marin开放实验室启动训练Marin 535B - A23B模型，全程公开。过去大模型训练像“黑箱”，此次尝试让训练可观察、可讨论、可协作，引发网友关注。