「训练数据合成」共找到 4073 篇相关文章
Qwen3家族训练秘籍公开：思考/非思考融进一个模型，大模型蒸馏带动小模型
Qwen3技术报告揭晓8款模型关键技术，采用双模式架构，训练和微调分段进行，还“大带小”蒸馏数据。其融合思考与非思考模式，训练分多阶段，Qwen Chat还全量上线深度研究功能。
Kimi K2官方技术报告出炉：采用384个专家，训练不靠刷题靠“用自己的话再讲一遍”
Kimi K2官方技术报告公开称霸全球开源模型的秘籍，介绍其训练过程及“秘密配方”，包括MuonClip优化器、大规模Agentic Tool Use数据合成等技术亮点，还提及后阿里通义Qwen3更新击败Kimi K2。
甲骨文副总裁吴承杨：AI 放大了数据优势，数据融合至关重要
甲骨文公司副总裁吴承杨称AI放大其数据优势，多模融合数据库至关重要。中国区技术咨询部高级总监嵇小峰表示企业构建Agent AI要关注数据访问需求和安全。Oracle用一体化架构解决融合问题，还介绍了相关技术及应用。
OpenAI去年挖的坑填上了！奖励模型首现Scaling Law，1.8B给70B巨兽上了一课
全新奖励模型「POLAR」采用对比学习范式，摆脱对海量人工标注依赖，有强大Scaling潜力。它衡量训练与目标策略「距离」作奖励信号，用自动化合成数据预训练，小模型能超越大数十倍规模对手。
DeepSeek-V3.2正式版发布，将开源模型的能力推向极致
DeepSeek-V3.2正式版开源，包含标准版和Special版。它采用稀疏注意力机制，降低计算复杂度。后训练阶段有多项算法改进，支撑高难度推理。还融合思考与工具使用，合成训练数据，在智能体评测表现优异。
ICLR 2026 Oral | Revela：用语言建模重新定义稠密检索器训练
在检索增强生成系统中，稠密检索器是核心组件，但传统训练方法有局限。德国达姆施塔特工业大学蔡丰宇团队提出Revela，将检索器训练目标统一到语言建模框架，优势明显，实验效果佳。
预训练Token消耗直接腰斩！上海AI Lab&上交大提出全新预训练任务，开源首个8.9B隐空间大模型NCP-ArchPreview
本文介绍上海AI Lab与上海交大团队联合提出全新预训练任务NCP，打破传统逐词预测教条，开源全球首个8.9B规模离散隐空间基座大模型，预训练Token消耗仅需一半，收敛速度提升近一倍，下游性能显著提升，公开全部训练资产供全球研究使用。
马斯克麾下最惨打工人：手滑删掉xAI三周训练数据
xAI一名员工在数据迁移时误删了2到3周的核心训练数据，这或为Grok重组震荡后遗症。xAI为追Claude等，采取喂Cursor数据、自研V9等策略，还曾借道访问竞品模型。如今xAI把算力租给对手变现。
达摩院推出多智能体框架ReasonMed，打造医学推理数据生成新范式
在人工智能领域，推理语言模型在医学场景应用存在挑战，达摩院推出多智能体框架ReasonMed，提出医学推理数据生成新范式，开源百万级高质量数据集ReasonMed370K，验证了‘小模型 + 高质量数据’的潜力。
别只盯着李飞飞！AI的「3D数据底座」已被这家中国公司悄悄建好
群核科技构建具身智能时代的「3D版ImageNet」，其SpatialVerse平台为机器人提供三维数据与仿真环境。借助新技术发布全球首个3D语义数据集InteriorGS，还与多机构合作，成果获学术和产业认可。