「数据优化」共找到 3497 篇相关文章
庞若鸣还有苹果论文？改善预训练高质量数据枯竭困境
苹果基础模型原负责人庞若鸣在 Meta 任职期间，其在苹果参与的高价值研究仍不断发表。研究团队针对大模型训练中高质量数据枯竭问题，提出 Synthetic Bootstrapped Pretraining (SBP) 预训练流程，提升模型性能。
震撼发布！最大人体动作数据集 MotionMillion 正式登场
上海交通大学研究团队构建高效标注流程，发布最大人体动作数据集MotionMillion，含超2000小时、200万条文本 - 动作配对数据。还推出评测体系MotionMillion - Eval，训练70亿参数动作生成大模型，刷新SOTA。
ICML 2025 | 如何在合成文本数据时避免模型崩溃？
随着生成式AI发展，合成数据成大模型训练重要部分，但可能引发“模型崩溃”。ICML 2025会议上，上交大等团队剖析此问题，提出Token - Level Editing策略，避免模型崩溃，实验验证了其有效性。
Nature警告：AI「数据饥渴症」引爆学术宕机潮！90%知识库濒临崩盘
Nature揭露AI爬虫疯狂「啃食」学术网站数据，致服务器瘫痪。DiscoverLife、BMJ等受影响，运营方难防「坏爬虫」，急需国际协议规范AI数据使用。
数据蒸馏的双重突破：从几何保真到对抗鲁棒
深度学习中，数据集蒸馏可用精简合成样本替代庞大训练集且不牺牲模型性能，但面临精度和可靠性两大难题。两篇发表于 ICCV 2025 和 AAAI 2025 的论文分别给出解决方案，且代码已开源。
Meta提出数据筛选的理论：何时“少即是多”成立？
Meta针对机器学习领域‘少即是多’悖论提出理论框架，用高维统计等方法推导测试误差缩放定律，揭示数据筛选‘相变’条件，为实践提供指导，还重新定义‘数据效率’意义。
跨芯片统一优化，DLCompiler与DLBlas驱动算子极致表现
9月10日，上海AI实验室DeepLink团队开源DLCompiler和DLBlas。前者是扩展Triton的深度学习编译器，后者是面向大模型的高性能算子库。它们有跨架构DSL扩展等亮点，在多芯片上实现性能优化，还解决了DSA芯片优化难题。
成本仅0.3美元，耗时26分钟！CudaForge：颠覆性低成本CUDA优化框架
CUDA代码性能对模型训练与推理重要，但手动优化门槛高。明尼苏达大学团队提出CudaForge，是低成本多智能体CUDA Kernel生成与优化工作流，实验效果好，成本低且具通用性。
Hugging Face 发布 FineTranslations：一个万亿级的多语言平行文本数据集
Hugging Face 发布 FineTranslations，这是含超 1 万亿 Token 的多语言数据集，用于提升机器翻译质量。它源于 FineWeb2，用 Gemma3 27B 翻译创建，数据生成流程可复现公开，还能用在其他任务。
150PB工业数据+智能体革命，西门子开启AI制造新纪元
西门子在工业AI领域成果显著。其工业智能体系统贯穿工业脉络，Industrial Copilot提升开发效率。工业基础模型扎根150PB工业数据，与主流大模型路径不同。西门子靠数据和行业know - how构筑护城河。