搜索：概念蒸馏训练策略

「概念蒸馏训练策略」共找到 2519 篇相关文章

Meta发布40页报告，具身智能的下一步是「心智世界模型」：能听，能看，能理解，会共情

Meta发布40页报告，首次将对人心智状态的推断概念化为心智世界模型，与物理世界模型实现“双轨建模”。还指出要结合系统A和B让AI自主学习，心智世界模型在多智能体协作潜力大。

随着大模型能力突破，Agent 从概念走向应用。清华系 Agent 框架 Cooragent 开源获 1.9k stars。其创始人王政认为 Agent 框架要适应多样需求，解决泛化与精确性平衡等痛点，还分享了对 MCP、框架融合等看法。

随着大模型能力突破，Agent 从概念走向应用，各类框架不断涌现。清华系团队发布开源框架 Cooragent，获 1.9k stars。创始人王政分享 Agent 发展洞察，指出大模型能力提升推动 Agent 商业化，还探讨 MCP、框架等多方面问题。

多模态视频生成大模型是复杂系统工程，多为巨头游戏。MiniMax的Hailuo 02发布，ELO得分超谷歌Veo 3和快手Kling 2.0。它能呈现复杂运动，处理物理关系，提升训练推理效率，成本低，后续还将更新。

在CVPR 2025上获年轻研究者奖的谢赛宁批判AI学术界畸形，回顾DiT、SiT论文被拒却成Sora等奠基成果的经历。他借“无限游戏”与“有限游戏”概念谈AI研究，指出应坚持“无限游戏”，打破当前困境。

Meta发布V-JEPA 2世界模型及三个新基准测试，Meta首席AI科学家Yann LeCun介绍其不同。V-JEPA 2基于视频训练，用62小时机器人数据就能实现零样本控制，还将探索分层式模型和多模态建模。

斯坦福/加州大学团队指出大模型答案正确不代表思考过程靠谱，传统评估忽略思考路径问题。团队提出双维度评估框架，透视模型思考过程，还测试发现不同领域决胜关键、最佳训练法不同，且框架正解锁新场景。

文章围绕国产AI芯片与英伟达的差距展开。从算力性能、生态壁垒、市场现状、技术瓶颈等方面分析差距，指出国产芯片虽在部分场景缩小差距，但高端训练和生态成熟度仍落后3 - 5年，突围需多领域突破。

4月28日「AI共潮生——2025甲子引力X科技产业新风向」大会上，五位嘉宾围绕具身智能分享见解。当前行业处概念到商用过渡期，梅卡曼德邵天兰等四位机器人领军人物探讨商业化路径，指出需聚焦场景、降成本、强技术可靠性。

长文本能力对语言模型重要，但现有模型训练窗长有限，流行的RoPE也有局限。清华、上海AI Lab团队用傅里叶分析解读其不足，提出傅里叶位置编码FoPE，提升长文本泛化能力，实验表现超RoPE。