搜索：模型进化实验

「模型进化实验」共找到 8402 篇相关文章

Scaling 时代落幕：Ilya 眼中下一代 AI 的关键，不在模型，在人类

深度学习亲历者 Ilya Sutskever 认为单靠扩大模型规模推进 AI 的时代已结束，未来关键在于解决 AI 泛化难题。他指出当前模型评测与现实能力脱节，人类泛化能力强或源于进化，还探讨了价值函数等内容。

Hugging Face研究团队提出GOLD方法，解决了知识蒸馏中老师和学生模型需用同一套分词器的痛点，让不同模型家族间也能做知识蒸馏。它通过三步解决跨分词器蒸馏，实验效果良好，已集成到TRL库。

大模型价值主战场向后训练转移，Grok 4凭后训练成“宇宙最强”。产业应用中通用模型适配难，后训练方法也在进化，如采用SFT+RL等，还介绍了夸克和阿里云的后训练实践。

全球AI行业陷入资源消耗战，面壁智能绕开物理瓶颈，提出“AI制造AI”路径。2026年5月25日发布MiniCPM5-1B，有越级性能、极致压缩比和均衡能力，源于“模型、框架、数据”自进化范式。

加州大学洛杉矶分校与字节Seed等团队联合完成Self-Forcing++，让自回归视频生成模型突破4分钟时长极限。它解决传统模型架构缺陷，经三步技术实现稳定超长视频生成，实验超基线，但仍有长时记忆缺失等问题。

统一多模态模型在视觉理解和生成能力上不平衡，常理解强但生成弱。本文提出重建对齐（RecA）自监督后训练方法，不改动架构，用未标注图像训练，在多模型实验中提升性能，部分达SOTA。

港中文 MMLab 与美团联合提出 OneThinker 多模态统一推理模型，将多种视觉任务抽象为‘先推理、后作答’形式，通过多任务强化学习优化。实验显示其在多任务表现佳，为通用视觉推理模型提供参考。

多模态大模型训练常采用‘题海战术’，存在能力诊断不精准、视觉内容缺乏扩展等问题。北大和山大团队提出DPE框架，通过‘诊断-生成-强化’闭环提升模型能力，实验效果显著，还强调训练应具备诊断能力。

NVIDIA研究团队通过Nemotron - Flash系列模型，打破对‘深而瘦’架构迷信，修正缩放定律，用进化算法搜索混合算子、改进训练策略。该模型在性能、延迟和吞吐量上表现出色，远超同类产品。

英国格拉斯哥大学团队发布全球首个AI智能体自进化开源框架EvoAgentX，打破传统多智能体系统构建与优化限制。它有自动化构建、自进化机制和系统性评估亮点，实验验证其性能提升显著。