「预训练数据」共找到 3960 篇相关文章
从 SQL 到 OSI：当“数据是什么意思”也有了标准答案
本文回顾 SQL 统一世界的历史，引出 OSI 标准。OSI 解决“数据是什么意思”的标准化问题，众多全球数据技术公司参与。还介绍各厂商语义层布局，分析对中国企业的影响及 OSI 未解决的问题。
MoE RL 实战：统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样，消除训推不一致性。介绍 FP8 硬件基础、格式等，分析训练难点，定位 KL Loss 异常源于量化原理，验证其在 MoE 模型 RL 场景优势，指出模型规模与训推不一致的关联。
2026具身智能数据赛道，卷出了一匹「黑马」
在具身智能面临数据掣肘的背景下，觅蜂科技宣布2026年4月16日将在上海举办一站式物理AI数据服务平台发布会，展示全栈方案，解决核心痛点，发布会有诸多看点，还将举办高规格圆桌论坛。
POF|西工大廖晖、刘溢浪等：数据驱动的湍流建模：基于符号回归与数据同化的双向耦合框架
针对传统湍流模型在高雷诺数分离流动中精度不足与耦合不稳定问题，本文提出融合符号回归与数据同化的白箱建模框架（DASR）。该方法提升了模型稳定性与预测准确性，在复杂条件下有良好泛化能力。
为何底层数据湖决定了 AI Agent 的上限？
随着 AI 落地企业进程加快，数据类型更丰富，传统企业级数据架构面临瓶颈。火山引擎构建多模态数据湖，以 Lance 为湖格式，从多维度选型技术，解决存储等问题，在多行业有应用潜力。
昇腾MindSpeed：分布式训练加速库的创新实践与突破
在2025年QCon全球软件开发大会上，华为工程师郑加利分享昇腾MindSpeed分布式训练加速库。它在计算、通信、显存等多维度优化，提升训练效率，还介绍业界加速库及MindSpeed架构，阐述多种优化策略。
Ilya 最新访谈，预训练时代终结后，AI行业来到了哪里？
Ilya接受90多分钟深度访谈，指出当前大模型泛化能力远不如人，Scaling时代终结，研究时代回归。还谈到AI经济影响与跑分不匹配、泛化能力鸿沟、情感价值等问题，预测超级智能5 - 20年到来。
OpenAI公开大规模稳定训练的秘密，英伟达AMD英特尔都受益
OpenAI通过OCP开放超大规模AI训练用的网络协议MRC，它能确保大规模训练环境下网络通信稳定。该协议由OpenAI联合英伟达等厂商花两年完成，从拓扑、传输、路由维度保障网络可靠性。
用 Docker 跑大模型训练，Unsloth 解决了环境配置难题
Unsloth AI 发布 Docker 镜像版本，解决本地训练大模型环境配置难题。拉镜像就能训练，依赖和示例 notebook 都打包好。使用简单，不过有暂不支持 Mac 系统等限制，单卡 NVIDIA GPU 场景较适用。
AGI 路线图第二阶段：游戏即模型训练｜AGIX PM Notes
文章围绕AGI展开，介绍AGI路线图第二阶段“游戏即训练”，指出游戏是训练agent的理想环境；还提及Dreamer系列研究进展。同时涵盖本周市场动态、多家公司AI动态及ETF复制指数的方法、优劣和影响。