「个性化蒸馏」共找到 238 篇相关文章
只要强化学习1/10成本！翁荔的Thinking Machines盯上了Qwen的黑科技
新智元报道，翁荔的Thinking Machines研究同策略蒸馏策略，能以1/10强化学习成本，结合同策略训练优势与密集奖励信号。该策略受DAGGER启发，扩展Qwen3团队工作，可在Tinker复现，还能用于个性化和持续学习。
对话27岁博导张林峰：模型压缩获CVPR满分有点意外，上海交大像我这样年轻老师很多
上海交大27岁博导张林峰团队在模型压缩领域成果丰硕。其提出的数据集蒸馏方法获CVPR 2025满分，还在多方面探索模型加速，成果已开源。张林峰认为数据蒸馏会成模型压缩趋势，也分享了知识蒸馏阶段看法。
字节Lynx：从单张图像生成高保真个性化视频
字节推出高保真个性化视频生成框架Lynx，基于开源的Diffusion Transformer，引入ID - adapter和Ref - adapter，在基准数据集表现优异，能平衡身份保真度等，还可拓展至多模态和多主体。
告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%
美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。
2小时入门「个性化联邦学习」，上交清华开源斩获1700+星 | JMLR'25
上海交通大学和清华大学研究人员开源个性化联邦学习代码库PFLlib，含39种算法、3种场景和24个数据集，支持模拟500设备训练，还有隐私保护评估工具，降低研究门槛。
116页论文教你「蒸馏」Claude、GPT-5.6：AI社区今天炸了
一篇前沿大模型安全漏洞论文引发热议，指出各大模型 API 设计缺陷，可提取隐藏思维链。同一模型家族安全能力不对称，攻击者可利用此漏洞，还介绍了攻击路径、实验及修复建议。
ICML 2026 | 将多教师冲突转化为动态约束，破解多模态大模型推理对齐难题
在多模态大模型发展中，多教师知识蒸馏成提升性能关键，但教师模型存在“概念漂移”问题。悉尼科技大学团队提出 APO 框架，将模型间“漂移”转化为动态负约束，解决多模态大模型多师蒸馏概念对齐难题，工作被 ICML 2026 接收。
The Batch: 907 | 小而高效模型的“制作”方法
Mistral AI发布Ministral 3系列模型权重，结合剪枝与蒸馏技术，用级联蒸馏法构建。该系列参数规模有140亿、80亿和30亿，在部分测试中表现佳，训练成本低于传统方式。
再也不怕面瘫脸！YouTube黑科技：AI帮你「永久微笑」，连僵尸都咧嘴笑
YouTube在Shorts相机里实现AI实时「重绘」人脸，效果自然。它通过知识蒸馏将大模型「瘦身」成小模型，用迭代蒸馏打磨细节，PTI保证身份特征，MediaPipe搭建推理管道，还将拓展视频生成功能。
没有生物学背景，靠ChatGPT和AlphaFold，他为爱犬定制了全球首支个性化癌症疫苗
澳大利亚程序员Conyngham的爱犬患癌，他无生物学背景，靠ChatGPT和AlphaFold分析数据，经多番尝试，让教授定制全球首支为狗设计的mRNA个性化癌症疫苗，部分肿瘤缩小一半。