「训练数据合成」共找到 3981 篇相关文章
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
年度AI论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3重现概率异常
这篇论文指出三大前沿AI模型厂商API有密码学旁路漏洞，攻击者用轻量级模型就能恢复大模型隐藏思维链数据。还揭示部分模型训练或借鉴大模型思维链，此漏洞也致企业数据隐私安全问题。
这家公司刚成立7个月，正在打磨通用具身智能的终极形态
超维动力（Kinetix AI）于2025年7月注册，9月研发，不足一年便举办独特发布会，让KAI人形机器人“自己发布自己”。其认为高拟人是训练强世界模型前提，构建了含本体、世界模型等的技术体系，但面临工程与成本挑战。
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。
李飞飞又被超越了？百万「普通视频」打造通用4D世界模型！
全行业为昂贵多视角数据发愁时，中科院和CreateAI推出NeoVerse，用百万单目视频打开4D世界模型大门。它抛弃多视角数据和离线预处理，解决扩展性瓶颈，在重建速度、生成质量等方面表现出色，有丰富下游应用。
机器人的「GPT时刻」来了？丰田研究院悄悄做了一场最严谨的VLA验证实验
丰田研究院（TRI）团队研究大型行为模型（LBM），在近1700小时机器人数据上训练并大量部署评估。发现LBM性能提升显著，预训练小数据量也能带来增益，预示机器人通用大模型或到来。
港大×复旦×上交：视触觉融合+闭环纠错，让机器人双臂协作不再「盲操」
港大联合复旦、上交大提出TAMEn，在UMI框架上全方位升级，构建视触感知融合等数据闭环，打通数据采集到再训练链路。其三层闭环让机器人学得更快准高效，在双臂协作任务中提升成功率。
成本不到8千美元！新浪微博1.5B小模型超越近万亿参数模型
新浪微博开源的VibeThinker - 1.5B模型，仅15亿参数、训练成本不足8000美元，却在顶级数学竞赛基准击败近万亿参数模型。它采用频谱到信号原则，分两阶段训练，性能出色，成本低且数据无污染。
告别昂贵人工标注，英伟达全自动视频理解助力小模型逆袭顶级大模型
麻省理工、英伟达等推出FoundationMotion，它是全自动数据生成流水线，能解决运动数据稀缺难题。通过自动标注生成问答数据，让小模型经微调后在运动理解上超越顶尖闭源模型，还介绍了其数据生成、问答设计等环节。
函数向量对齐技术，让大模型持续学习不“失忆”丨ICLR 2025
中国科学技术大学等校团队破解大语言模型灾难性遗忘之谜，发现遗忘源于模型激活带偏差新功能，非覆盖旧功能。还设计FVG训练法，保留并对齐函数向量，保护模型能力。相关论文被ICLR2025接收，代码开源。