「反蒸馏」共找到 305 篇相关文章
对话27岁博导张林峰：模型压缩获CVPR满分有点意外，上海交大像我这样年轻老师很多
上海交大27岁博导张林峰团队在模型压缩领域成果丰硕。其提出的数据集蒸馏方法获CVPR 2025满分，还在多方面探索模型加速，成果已开源。张林峰认为数据蒸馏会成模型压缩趋势，也分享了知识蒸馏阶段看法。
AI编程「反直觉」调研引300万围观！开发者坚信提速20%，实测反慢19%
非营利性 AI 调研机构「METR」对 AI 编程工具影响开发者效率进行随机对照实验，结果意外：开发者本坚信提速 20%，实测却慢 19%。还分析了原因，指出调研局限与未来展望。
The Batch: 950 |反数据中心运动持续升温
全美反对新建数据中心的声音不断扩大，人群通过立法表达不满，部分案例还出现暴力行为。反对理由包括电价、能耗等问题，约640亿美元项目被阻或延迟，新一代数据中心正采用更环保设计。
告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%
美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。
OpenAI「辣椒芯」干翻英伟达！老黄股价不跌反涨
OpenAI自研芯片「小辣椒」跑分碾压英伟达最强blackwell，低延迟、高吞吐、低并发等全达SOTA级别。但英伟达股价未跌反涨，OpenAI也表态不会弃用英伟达。「小辣椒」预计2027年量产，OpenAI还将开发后续版本，不过其数据中心负责人离职，无人接手。
116页论文教你「蒸馏」Claude、GPT-5.6：AI社区今天炸了
一篇前沿大模型安全漏洞论文引发热议，指出各大模型 API 设计缺陷，可提取隐藏思维链。同一模型家族安全能力不对称，攻击者可利用此漏洞，还介绍了攻击路径、实验及修复建议。
奥特曼「红色警戒」5个月后，GPT Image 2屠榜，断层领先反杀谷歌
被Google按了半年头，OpenAI祭出反杀。GPT Image 2上线12小时登顶Arena文生图榜，领先Nano Banana 2达241分。它是从零重构的通用模型，具备原生思考能力，或改写图像生成赛道规则。
ICML 2026 | 将多教师冲突转化为动态约束，破解多模态大模型推理对齐难题
在多模态大模型发展中，多教师知识蒸馏成提升性能关键，但教师模型存在“概念漂移”问题。悉尼科技大学团队提出 APO 框架，将模型间“漂移”转化为动态负约束，解决多模态大模型多师蒸馏概念对齐难题，工作被 ICML 2026 接收。
The Batch: 907 | 小而高效模型的“制作”方法
Mistral AI发布Ministral 3系列模型权重，结合剪枝与蒸馏技术，用级联蒸馏法构建。该系列参数规模有140亿、80亿和30亿，在部分测试中表现佳，训练成本低于传统方式。
再也不怕面瘫脸！YouTube黑科技：AI帮你「永久微笑」，连僵尸都咧嘴笑
YouTube在Shorts相机里实现AI实时「重绘」人脸，效果自然。它通过知识蒸馏将大模型「瘦身」成小模型，用迭代蒸馏打磨细节，PTI保证身份特征，MediaPipe搭建推理管道，还将拓展视频生成功能。