「预训练数据」共找到 3960 篇相关文章
Qwen3-Next：迈向更极致的训练推理性价比
文章发布Qwen3-Next架构及Qwen3-Next-80B-A3B系列模型，通过混合注意力等改进提升训练推理效率。介绍模型结构、性能优势，还说明使用方法，包括在多平台部署及处理超长上下文，展望持续优化架构。
GPT-5-Thinking新训练方法公开：让AI学会忏悔
OpenAI提出忏悔训练Confessions，让ChatGPT自己“坦白从宽”。在GPT - 5 - Thinking上实验有效，模型犯错后多会坦白，且更诚实，不影响原任务表现。还介绍了训练方法、实验结果及局限性。
Nature子刊：攻克医疗器械「看不清」难题，赋予自动驾驶视觉
MicroSyn-X首创无需真实数据的AI合成影像技术，让机器在无标注虚拟X光中学会追踪微型手术器械，突破医疗数据稀缺瓶颈，为自动化微创手术提供新路径，且代码和数据已开源。
Meta提出数据筛选的理论：何时“少即是多”成立？
Meta针对机器学习领域‘少即是多’悖论提出理论框架，用高维统计等方法推导测试误差缩放定律，揭示数据筛选‘相变’条件，为实践提供指导，还重新定义‘数据效率’意义。
Hugging Face 发布 FineTranslations：一个万亿级的多语言平行文本数据集
Hugging Face 发布 FineTranslations，这是含超 1 万亿 Token 的多语言数据集，用于提升机器翻译质量。它源于 FineWeb2，用 Gemma3 27B 翻译创建，数据生成流程可复现公开，还能用在其他任务。
150PB工业数据+智能体革命，西门子开启AI制造新纪元
西门子在工业AI领域成果显著。其工业智能体系统贯穿工业脉络，Industrial Copilot提升开发效率。工业基础模型扎根150PB工业数据，与主流大模型路径不同。西门子靠数据和行业know - how构筑护城河。
即将截止征集 | 全国首部AI数据标注合规标准，欢迎加入！
由中国电子商会归口、智合标准中心组织、中移互联网牵头起草的全国首部AI数据标注合规标准《面向人工智能的数据标注合规指南》，历时7个月，经多轮研讨，即将修订报批，仍有参编机会。
清华叉院教授手把手教你用强化学习训练智能体
在大模型智能体时代，智能体强化学习训练通用智能体很关键。ASearcher 是相关项目，AReaL 有交互次数和代码设计优势。本次吴翼教授将带团队成员，以多轮搜索智能体为例，教用最少代码实现训练。
Legora、Mercor 都在用，Reducto 能成为独立的 LLM 数据入口吗？
当前企业AI落地瓶颈在数据质量，Reducto聚焦数据准确性，以文档解析API提供Agentic OCR能力。它获多轮融资，估值达6亿美元，但面临多模态模型竞争及定价等问题，其未来走向待察。
吴恩达推出LLM 后训练免费课程，覆盖三大调优方法：SFT、DPO、RL
吴恩达发布「Post-training of LLMs」课程，由Banghua Zhu主讲，瞄准实用技术，重点介绍SFT、DPO、RL三种后训练方法，有大量动手实验，课程发布后引发热烈讨论。