搜索：训练数据合成

「训练数据合成」共找到 3974 篇相关文章

Claude团队用Qwen测试全新训练方法

Anthropic最新研究提出中训练（MSM），在预训练后、后训练前给AI立规矩。实验显示，新增MSM能让通义千问两款32B大模型失准率大幅下降，还能精简微调数据。MSM与对齐微调结合，可提升模型泛化能力。

上海期智研究院联合算秩未来在WAIC 2025大会发布开源项目MegatronApp，它是国内首个围绕Megatron - LM的增强工具链。经实际数据，其在该框架下训练效率提25%、成本降23%，含四大模块解决训练难题。

英伟达研究团队发布 RLP 技术，与传统大语言模型训练不同，它在预训练阶段就让模型学会'先想后说'。通过奖励机制自我监督，实验效果惊人，性能提升显著，不挑数据，打破了大模型训练范式。

当地时间3月26日，GitHub宣布自4月24日起，Copilot Free、Pro和Pro+用户交互数据默认用于训练改进AI模型，但用户可手动退出。它称此举因模型需更多数据，还拿微软等挡枪，却遭开发者吐槽。

阿里通义实验室开源通用预训练框架MaskSearch，引入检索增强型掩码预测任务，兼容两种训练方法。实验显示，它在多数据集提升模型性能，小模型能媲美大模型，还验证了训练方式、策略及奖励函数的效果。

Meta等团队提出“语言自我博弈”（LSP）框架，让语言模型自己和自己“玩游戏”，在无外部数据输入下自我改进。实验显示，其性能可媲美甚至超越用大量人类数据训练的模型，为缓解数据稀缺提供新思路。

学界对强化学习能否让模型学会新推理技能争论已久，过去研究多悲观。英伟达研究指出，问题源于任务在基础模型训练数据中过度呈现及训练步数不足。其ProRL框架提升训练步数，释放小模型潜力，还构建技术组合拳。

字节团队提出全新语言模型训练方法PCL，首次打破训练与推理对称约束，实现‘训练-推理不对称’。在训练时让模型反思评估结果，推理时仅输出答案，零额外开销，显著提升模型能力。

2026年4月16日，觅蜂科技发布一站式物理AI数据服务平台等，董事长姚卯青称当前具身智能面临数据荒漠问题。觅蜂打造“又全又好又快”数据供给，还启动蜂巢数据共创行动，与多家企业合作。

美国成人影片制作公司Strike 3 Holdings指控Meta自2018年起下载并分享2396部成人影片，约81.7TB，用于训练AI模型，涉嫌严重侵权。Meta未回应，文章还分析了用成人影片训练AI的可能原因。