「交叉蒸馏」共找到 154 篇相关文章

开源动态7

只要强化学习1/10成本!翁荔的Thinking Machines盯上了Qwen的黑科技

新智元报道,翁荔的Thinking Machines研究同策略蒸馏策略,能以1/10强化学习成本,结合同策略训练优势与密集奖励信号。该策略受DAGGER启发,扩展Qwen3团队工作,可在Tinker复现,还能用于个性化和持续学习。

新智元
开源动态8

5秒出4张2K大图!阿里提出2步生成方案,拉爆AI生图进度条

阿里智能引擎团队针对Qwen最新开源模型,将SOTA压缩水平从80 - 100步前向计算骤降至2步,速度提升40倍,5秒可出4张2K高清大图。已发布Checkpoint,集成到呜哩AI平台。文章还分析传统蒸馏方案问题并介绍团队改进策略。

量子位
开源动态8

多人会话视频生成新突破:香港科技大学,浙江大学用单人数据实现多人交互视频生成

香港科技大学、浙江大学等开源 AnyTalker,提出音频驱动多人交互生成新范式。它用创新机制和两阶段训练策略,以少量数据实现多人视频生成,还构建评估指标,性能超现有方法。

AIGC开放社区
新闻资讯8

还是谷歌懂程序员?Demis 采访首提“氛围编程”,Gemini 3 彻底戒掉“爹味”说教

谷歌连发产品,Gemini 3 余温未消又推出 Nano Banana Pro。Google DeepMind CEO Demis 与团队副总裁对话谈其细节,包括降低运行成本、调整“人设”、提出“氛围编程”,还认为 AGI 到来需 5 到 10 年及研究突破。

AI科技大本营
算法论文8

解码提速15.1倍、多任务性能不降:复旦&引望WAM-Diff2打通自动驾驶VLA自回归—扩散转换

视觉-语言-动作(VLA)模型是端到端自动驾驶主流技术,但自回归解码架构有瓶颈。复旦大学与引望智能联合提出WAM-Diff2,实现自回归VLA向离散扩散模型迁移,解码加速15.1倍,多任务性能不降。

机器之心
推荐文章8

模型压缩与量化:让大模型走向轻量化落地

文章介绍模型压缩与量化技术,其能在保持性能时降低大模型计算和存储需求,实现边缘设备高效部署。还阐述基础知识、关键技术路径、应用场景,并探讨未来发展方向。

机器学习AI算法工程
算法论文8

刘陈立领衔!六国学者联合发布亚洲合成细胞技术路线图

由刘陈立牵头的联合团队发表论文,提出亚洲合成细胞技术路线图。它指出构建合成细胞的四大挑战,提出新型研究范式和十年两阶段目标,体现亚洲科研协作原创探索,推动国际合作。

DeepTech深科技
新闻资讯7

Claude Mythos其实没那么神?AI发现bug其实早已是寻常

VIDOC Security Lab博客指出Claude Mythos实力或被高估,用LLM发现漏洞早有先例,他们用多模型扫描开源项目也发现诸多漏洞。AI辅助漏洞发现成威胁,企业需用AI对抗AI积极防御。

机器之心
新闻资讯8

拉 DeepSeek 和通义“组队”斗 OpenAI?小扎首届 AI 大会变“大型商战现场”,和微软 CEO 疯狂互曝!

4月30日凌晨Meta举办首届AI开发者大会LlamaCon,推出面向消费者的Meta AI聊天机器人和面向开发者的Llama API,欲扩大开源Llama模型应用范围、挑战OpenAI。扎克伯格还与微软CEO纳德拉就开源闭源生态、AI生产力等展开讨论。

AI前线
新闻资讯9

九章云极问鼎陶哲轩数学挑战赛!让强化学习成为AI4S新基建

本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分,解决28个未解决开放数学问题,介绍了其可验证AI+强化学习的AI4S布局。

机器之心