算法论文8
蚂蚁OmniTable驯服3050亿条训练数据
量子位
AI 摘要
蚂蚁集团:自研统一宽表系统OmniTable聚焦大模型数据准备,管理超35PB、3050亿条以上数据,SFT任务端到端周期从约14天缩至2.5天,节省工程师协调和重跑时间。
阅读原文 · 量子位
蚂蚁VLDB最佳论文:用一张“逻辑表”驯服3050亿条训练数据
蚂蚁集团论文《OmniTable: A Unified Wide-Table System for Petabyte-Scale LLM Data Curation and Exploration》获VLDB工业赛道最佳论文。其研发的OmniTable系统能管理超35PB、3050亿条以上训练数据,解决数据准备难题,如在SFT任务中大幅缩短周期。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
斯坦福教授直播训练535B大模型
斯坦福教授Percy Liang宣布由Marin开放实验室启动训练Marin 535B - A23B模型,全程公开。过去大模型训练像“黑箱”,此次尝试让训练可观察、可讨论、可协作,引发网友关注。
机器之心
新闻资讯8
蚂蚁领投戴盟,全球首个物理交互脑发布
8月11日,戴盟机器人完成数亿元战略轮融资,由蚂蚁集团领投。蚂蚁此前已在具身智能赛道多处布局,此次是首次延伸至触觉感知层。戴盟推出全球首个“物理交互脑”,有稀缺团队支撑,多方面获产业支持且多项指标全球领先。
量子位
算法论文8
人大蚂蚁团队发布LLaDA MoE v2及扩展定律
中国人民大学高瓴人工智能学院与蚂蚁集团合作,首次系统刻画混合专家扩散语言模型扩展定律,据此训练LLaDA MoE v2,实现扩展效率与智能双重突破,将推动其迈向规模化时代。
机器之心
推荐文章8
翁荔:揭秘大模型训练Scaling law
北大毕业的前OpenAI高管翁荔(Lilian Weng)的《Scaling Laws, Carefully》值得一读。Scaling law是预训练预算表,能帮少烧错钱。文章探讨大模型训练预算分配,分析Kaplan和Chinchilla结论差异及数据稀缺问题。
PaperAgent