「差分蒸馏」共找到 1047 篇相关文章
新SoTA方法RM-R1：让reward model对评分说出原因！超越GPT4o
过去模型‘黑箱打分’不透明、不灵活。论文提出ReasRM，经两阶段训练，让奖励模型像人类先思考再打分。它能分任务类型、动态奖励，实验中碾压GPT - 4，小模型逆袭，团队已开源6个模型。
ICML 2026 | 将多教师冲突转化为动态约束，破解多模态大模型推理对齐难题
在多模态大模型发展中，多教师知识蒸馏成提升性能关键，但教师模型存在“概念漂移”问题。悉尼科技大学团队提出 APO 框架，将模型间“漂移”转化为动态负约束，解决多模态大模型多师蒸馏概念对齐难题，工作被 ICML 2026 接收。
The Batch: 907 | 小而高效模型的“制作”方法
Mistral AI发布Ministral 3系列模型权重，结合剪枝与蒸馏技术，用级联蒸馏法构建。该系列参数规模有140亿、80亿和30亿，在部分测试中表现佳，训练成本低于传统方式。
再也不怕面瘫脸！YouTube黑科技：AI帮你「永久微笑」，连僵尸都咧嘴笑
YouTube在Shorts相机里实现AI实时「重绘」人脸，效果自然。它通过知识蒸馏将大模型「瘦身」成小模型，用迭代蒸馏打磨细节，PTI保证身份特征，MediaPipe搭建推理管道，还将拓展视频生成功能。
跑分第一，实战拉胯！GPT Image 1.5被骂惨，奥特曼这波悬了
OpenAI推出新一代旗舰图像模型GPT Image 1.5，生图能力强，免费用户可上手，开发者能调用API。它在跑分榜单成绩优异，但网友实测发现是‘高分低能’，引发吐槽。此外，其API价格降20%，此次更新是回击谷歌。
FairyGen：AI 把孩子的画“动”起来，个性化教育和动画创作
FairyGen 能将孩子画作变成卡通短片，通过多模态大语言模型构思分镜脚本，采用分层建模处理前景人物动作与背景动态。其生成流程分四阶段，但也存在前景角色重建不准、背景生成不稳定等问题。
花了几百万办完一场AI大会后，想跟你分享这6个感悟。
作者分享举办AI大会的6个感悟，指出AI强大时线下真实更重要。如AI可消灭信息差但压缩不了体验差，品味是活出来的，线下交流能带来偶然性等，鼓励人们去线下获得真实体验。
NovaSR：一个52KB的音频超分模型，把16kHz模糊音频变成48kHz清晰版
最近，只有52KB的音频超分辨率模型NovaSR开源，能把16kHz模糊音频变成48kHz清晰版，处理速度极快，可实时处理音频流。它能提升TTS模型质量等，虽有不足，但平衡了速度与质量。
Claude Opus 4.7，全网差评！刚升级就翻车，用户怒斥：还我4.6
Claude Opus 4.7刚发布就遭全网吐槽，价格贵50%，性能却严重倒退，出现幻觉、计算拉胯等问题。用户质疑Anthropic为省钱缩水模型，罪魁祸首可能是新引入的“自适应推理”功能。
硬刚Sora2，万相2.6轻松定制角色、控制分镜，普通人也能当导演
2025 年视频生成领域发展迅猛，OpenAI 的 Sora 2 带来新玩法，商业落地加速，但普通用户体验门槛高。12 月 16 日阿里发布万相 2.6 系列模型，功能全面升级，实测效果惊人，标志 AI 视频生成迈向精准可控新阶段。