自蒸馏」共找到 1154 篇相关文章

开源动态7

16个月后Meta杀回开源,小扎力挺蒸馏

Meta发布新开放AI模型Muse Glimmer底层参数,未来几周将开放Muse Spark 1.2模型权重。扎克伯格力挺开源,称要为数十亿人提供免费强大AI,还为模型蒸馏辩护。Meta此举有现实压力,也想创造算力需求。

机器之心
新闻资讯7

担心蒸馏问题,Meta限用Claude Code、Codex

据外媒报道,Meta限制员工在AI模型构建中用Claude Code和Codex,因担心涉及模型蒸馏,且随着AI使用成本上升,Meta想让更多开发工作迁至MetaCode,这揭开了AI Coding时代新问题。

机器之心
算法论文8

Agent也能蒸馏了!性能超好

大模型运行成本高,普通用户用不起。传统小模型模仿大模型解题步骤易出错。论文提出Agent蒸馏,让小模型学会用检索和代码工具,还加首思前缀与我纠错“外挂”,使小模型性能直逼大模型。

深度学习自然语言处理
新闻资讯7

OpenAI也缺卡!僧多粥少,曝内部抢卡抢到发疯

OpenAI正面临绝对的算力稀缺,总裁Greg Brockman曝内部算力资源争夺严重。算力是创新根本驱动力,因资源有限,许多产品无法发布,如ChatGPT Pulse部分功能仅对Pro用户开放。OpenAI有资源分配机制,但平衡各团队需求不易。

量子位
新闻资讯7

刚刚,Ilya Sutskever宣布任CEO:联创被Meta挖走了

周五凌晨,OpenAI 联合创始人 Ilya Sutskever 宣布任 Safe Superintelligence(SSI)首席执行官,原 CEO Daniel Gross 已退出。此前有 Meta 欲收购 SSI 的传闻,Gross 或转去 Meta 负责人工智能产品。

机器之心
新闻资讯7

苹果AI研不动,库克外包给谷歌Gemini了

今天凌晨,苹果与谷歌官宣达成深度合作协议,基于Gemini模型和谷歌云技术构建下一代苹果基础模型,成果之一是今年内上线“更个性化的Siri”。此前苹果研AI推进不顺,人才流失严重。

量子位
新闻资讯8

马斯克翻车了!一边告OpenAI,一边偷偷蒸馏ChatGPT

4月30日,加州奥克兰联邦法院,马斯克诉OpenAI案进入第四天。马斯克承认家Grok模型部分蒸馏了ChatGPT,还为AI公司排名,xAI垫底。法官拦下讨论AI灭绝话题,下周OpenAI联合创始人将出庭。

新智元
算法论文8

ICML 2026 | Agentic强化学习训练的信息锁问题

随着大语言模型走向真实交互,强化学习训练LLM agents时出现信息锁问题。香港中文大学等研究者分析其原因并提出AREW方法,在多场景实验中表现稳定且具鲁棒性。

机器之心
新闻资讯7

苹果或搁置研模型,转向依赖OpenAI或Anthropic

苹果正考虑用第三方AI模型驱动Siri,这是其在AI竞赛中的重大转向。目前苹果多为研技术,评估外部模型项目已启动,虽未做最终决定,但或借此摆脱AI落后声誉。网友对此看法不一。

AGI Hunt
算法论文8

从静态模型到数字生命体:进化AI Agent综述

近年大型语言模型催生AI智能体发展,但现有系统依赖人工预设,难适应动态环境。论文提出进化AI智能体,可通过环境反馈动优化,还提出三定律、四阶段范式演进模型等,开源EvoAgentX框架。

深度学习自然语言处理