「自蒸馏策略优化」共找到 2070 篇相关文章
Anthropic CEO最新采访：AGI一词毫无意义、点名扎克伯格、谈开源、家庭……等八个非共识观点
Anthropic CEO Dario Amodei在采访中给出八个非共识观点。他认为AGI和ASI是空洞概念，年亏30亿美元是投资，开源作用被高估，还谈及公司应对挖角、竞争、市场定位等策略，展现独特领导风格。
Agent KB：经验池让Agents互相学习！GAIA新开源SOTA，Pass@1性能最高提升6.66
来自多家机构团队发布 Agent KB 框架，构建经验池实现 AI Agent 经验共享。在 GAIA 基准测试中表现出色，提升多模型 Pass@1 性能，还在软件工程领域展现价值。其设计精妙，经消融、检索策略等实验验证有效。
AMS最新AI4PDE综述：清华大学冯西桥教授团队白金帅等提出面向计算力学中物理和数据引导的AI框架的未来
本文综述人工智能赋能计算力学框架发展与现状，指出纯数据驱动、物理信息神经网络和算子学习方法虽有潜力，但在鲁棒性等方面有挑战。阐述四个研究方向，为复杂物理系统建模等开辟新途径。
Kimi K2官方技术报告出炉：采用384个专家，训练不靠刷题靠“用自己的话再讲一遍”
Kimi K2官方技术报告公开称霸全球开源模型的秘籍，介绍其训练过程及“秘密配方”，包括MuonClip优化器、大规模Agentic Tool Use数据合成等技术亮点，还提及后阿里通义Qwen3更新击败Kimi K2。
7B模型“情商”比肩GPT-4o，腾讯突破开放域RL难题，得分直翻5倍
腾讯混元AI数字人团队提出RLVER框架，解决开放域RL在真实交互中的‘情商’优化困境。经其训练的Qwen2.5 - 7B模型在情感对话基准得分跃升，比肩顶级商用模型，团队还有诸多启发性发现。
普林斯顿等高校提出AgentDistill：无需任何训练即可继承大Agent复杂能力，性能提升48%，成本降低90%
在AI领域，大型语言模型智能体计算需求大限制部署，传统蒸馏技术对智能体效果有限。AgentDistill提出解决方案，让学生智能体复用教师智能体的MCP工具包，无需训练继承复杂能力，小模型性能显著提升。
The Btch：838 | 苹果加强生成式 AI 布局
苹果更新 Apple Foundation Models（AFM）系列，含设备端和服务器端版本，还发布 Foundation Models 框架。AFM 模型架构特别，训练有优化，测试表现有差异。此前苹果论文引争议，此次或是其重启 AI 战略之举。
南洋理工 | 推出开源版MetaQuery：OpenUni，1.1B参数媲美BLIP3-o-8B
南洋理工大学 S-Lab 和商汤科技团队推出开源版 MetaQuery——OpenUni，仅 1.1B 参数就达 8B 模型性能。它架构极简、参数高效且完全开源，还采用两阶段训练策略，虽有局限但为多模态模型研究助力。
港科广等发布首个医学世界模型！精准模拟肿瘤演化，规划治疗方案
医学世界模型（MeWM）是创新AI系统，能模拟疾病演变、预测肿瘤变化，助医生术前评估治疗效果、优化方案。港科广等团队提出该模型，有肿瘤演变模拟等三核心贡献，在多方面实验表现佳。
深度对话 Benchmark 合伙人：AI 打破了 SaaS 的 3322 规则改变创造本质
Benchmark 合伙人 Eric Vishria 与 Banana Capital 合伙人 Turner Novak 对话，分享 AI 时代创业看法、投资策略等。他认为 AI 打破 SaaS 增长法则，关注创始人叙事、学习能力，坚持投资非凡公司，还谈了对上市、估值等的观点。