搜索：迭代蒸馏与增强

「迭代蒸馏与增强」共找到 902 篇相关文章

抗干扰能力提升近40% ！无需对抗训练，北航上海AI Lab新蒸馏方法提升模型鲁棒性 | ICML 2025

在人工智能模型规模持续扩大的今天，数据集蒸馏方法能提升训练效率、降低成本，但蒸馏模型在安全性要求高的任务中抗干扰难。北航上海AI Lab团队提出ROME方法，无需对抗训练，显著提升模型鲁棒性，成果被ICML 2025接收且已开源。

OpenAI强势更新，谷歌也没闲着。正式发布增强版的Gemini Deep Research，配套推出DeepSearchQA基准测试集，还发布了Interactions API，这不仅是Deep Research升级，还是Gemini生态的大升级。

随着大语言模型（LLM）能力迭代，传统评估方法难满足需求。北大宋国杰教授团队论文首次系统梳理LLM心理测量学研究进展，革新评估原则，扩展测量构念与方法，还给出增强方法与未来研究方向。

作者花3天体验OpenClaw，构建银行客户经理助手场景，验证通用智能体框架可用性。介绍Agent构建、迭代、交流及评估能力构建过程，对比OpenClaw与Claude Code、OpenViking，指出记忆系统问题，肯定专属智能体提升生产力的可行性。

被誉为欧洲版OpenAI的Mistral被离职员工爆料多项黑幕，其最新模型疑似直接蒸馏自DeepSeek，却包装成RL成功案例，歪曲基准测试结果。此前就有人发现其模型与DeepSeek相似，目前官方暂无回应。

麻省理工学院Tommi Jaakkola和纽约大学谢赛宁团队联合研究，提出无需数据、仅从先验分布采样实现flow map蒸馏的新方法。该方法可规避“教师 - 数据不匹配”风险，在ImageNet实验中表现出色。

深度学习中，数据集蒸馏可用精简合成样本替代庞大训练集且不牺牲模型性能，但面临精度和可靠性两大难题。两篇发表于 ICCV 2025 和 AAAI 2025 的论文分别给出解决方案，且代码已开源。

Thinking Machines Lab发布《在策略蒸馏》博客，提出在策略蒸馏可结合强化学习纠错与SFT奖励密度，成本低且能让小模型有强大性能。该成果受Qwen团队启发，大量用Qwen3模型。还对比了不同训练方法。

多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。

Meta发布新开放AI模型Muse Glimmer底层参数，未来几周将开放Muse Spark 1.2模型权重。扎克伯格力挺开源，称要为数十亿人提供免费强大AI，还为模型蒸馏辩护。Meta此举有现实压力，也想创造算力需求。