「策略蒸馏」共找到 1004 篇相关文章
大型语言模型稳定强化学习的新路径：几何平均策略优化GMPO
本文介绍了大型语言模型稳定强化学习新路径——几何平均策略优化GMPO。它是GRPO稳定化版本，通过优化几何平均替代算术平均，解决GRPO训练不稳定问题，在多任务实验中显著优于GRPO。
Claude最强Fable 5.1发布！8项屠榜，最高降价45%，反蒸馏机制上线
Anthropic发布Fable 5.1和Mythos 5.1，8项基准测试夺冠，价格最高降45%。展示科研成果，如蛋白质设计、生成金星地图等。上线反蒸馏机制，防止篡改上下文，还给出替代方案。
Cloudflare 推出 Agent Tracing：支持截断限制，不同框架的 Payload 默认记录策略存在差异
Cloudflare推出Agent Tracing，可提供统一Dashboard查看已部署Agent会话。该功能在现有Workers Tracing基础上增加Agent级别的Span，有收费时间表。不同框架Payload默认记录策略有差异，Trace有截断限制。
Claude和GPT思维链竟被两步蒸馏！116页论文曝光API致命漏洞
2026年AI蒸馏成悬案，一篇116页论文砸穿巨头「黑盒」。研究人员用低价小模型恢复Claude、GPT和Gemini原始推理，还发现API漏洞存在跨会话、用户和模型互通情况，收集公开轨迹泄露诸多敏感信息。
Meta CEO X 微软 CEO 对话解读：「蒸馏工厂」为何成为开源的魅力之源？
Meta CEO Mark Zuckerberg 和微软 CEO Satya Nadella 在 LlamaCon 2025 闭幕会议对话，探讨AI对技术平台等影响，如使文档、应用和网站界限模糊，还谈及开源与闭源模型战略价值及‘蒸馏工厂’概念。
一文全解析：AI 智能体 8 种常见的记忆（Memory）策略与技术实现
本文剖析8种常见AI记忆方案，如全量记忆、滑动窗口等，分析其原理、特点和适用场景，还给出模拟代码助理解。不同策略各有优劣，适用不同对话场景，能为项目评估、选择和实现Memory方案提供参考。
为何95%的AI项目注定失败？回到未来，策略型代理AI才是正确路径
《代理AI的进展：回到未来》指出，当前95%的AI项目失败因企业缺乏消费模型的架构。文章提出‘机器中的机器’理论，论证策略型代理AI是企业转型路径，还阐述构建算法化企业生态的方法。
数据集蒸馏，连发两篇顶会！10%样本实现全量性能，鲁棒不失真
数据集蒸馏能让模型高效节能，WMDD和GUARD两项研究分别解决保留原始数据特性、提升模型对抗扰动能力问题。WMDD用Wasserstein度量保留几何特性，GUARD平滑损失景观获对抗鲁棒性。
阿里通义发布Z-Image非蒸馏版基础模型版本，支持完整CFG和负向提示
阿里通义发布Z-Image基础图像生成模型，采用单流扩散Transformer架构，具核心创新技术。它是非蒸馏模型，支持完整CFG和负向提示，注重输出多样性和创意控制，已在Hugging Face开放下载。
多轮Agent蒸馏终于不翻车！港中文x通义新方法成功率暴涨18点，训练还快32%
香港中文大学联合阿里通义事业群提出TCOD训练方法，解决多轮Agent蒸馏稳定性难题。它只需对现有OPD代码做极少改动，提升了模型成功率，压缩行动步数，还减少训练时间，未来或成训练长程Agent标配。