「Self - Distillation」共找到 42 篇相关文章
算法论文8
名师一定出高徒？清华团队最新揭秘：别再迷信大模型蒸馏的「免费午餐」
当下大模型后训练中，On-Policy Distillation（OPD）成明星技术，业界采用后报告性能提升。但清华团队研究发现，换更强Teacher，Student性能可能无提升甚至倒退。研究揭示蒸馏成败条件，深挖对齐机制，还给出拯救失败蒸馏的方法。
机器之心
算法论文8
CVPR 2026 ReSAM：每个目标只标1个点，SAM就能学会分割遥感图像
CVPR 2026收录论文《ReSAM: Refine, Requery, and Reinforce: Self-Prompting Point-Supervised Segmentation for Remote Sensing Images》，提出让SAM每个目标只标1个点，通过R³循环自己生成高质量伪标签训练。在WHU建筑数据集上，1点标注与全监督差距仅1.3%，省99%标注成本。
机器学习AI算法工程