「策略内自蒸馏」共找到 1357 篇相关文章
加速200倍，单显卡1.8秒生成5秒高清视频！清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略，在多模型测试中加速100 - 205倍，且画质几乎无损。
VLA 推理新范式！一致性模型 CEED-VLA 实现四倍加速！
近年来，VLA模型成机器人领域重要研究方向，但推理速度受限。本文提出一致性蒸馏训练、混合标签监督机制及提前退出解码策略，在多基线模型上实现超4倍推理加速，实验验证其高效通用。
LLM的快速、慢速与工具增强思维模式综述
大型语言模型在不同任务中对推理策略需求差异大，策略选择不当会影响效率与可靠性。本文提出双重知识边界框架，梳理LLMs推理模式，将策略选择形式化，还分析了决策因素及策略选择机制。
华为盘古首次露出，昇腾原生72B MoE架构，SuperCLUE千亿内模型并列国内第一
当前传统 MoE 有专家激活不均衡问题，华为盘古团队提出 MoGE 解决。基于此架构的盘古 Pro MoE 大模型在昇腾集群高效训练，推理性能强，在 SuperCLUE 榜单千亿内模型并列国内第一，赋能业务落地。
对话27岁博导张林峰：模型压缩获CVPR满分有点意外，上海交大像我这样年轻老师很多
上海交大27岁博导张林峰团队在模型压缩领域成果丰硕。其提出的数据集蒸馏方法获CVPR 2025满分，还在多方面探索模型加速，成果已开源。张林峰认为数据蒸馏会成模型压缩趋势，也分享了知识蒸馏阶段看法。
ChatGPT「群聊」功能正式开启内测
OpenAI正式在部分地区试点ChatGPT群聊，覆盖移动端和网页端。该功能可用于生活娱乐、工作学习等场景，由GPT - 5.1 Auto模型驱动，操作简单，还考虑了隐私与控制。
启发学习：让大模型认知从外化到内生
当下大模型能力多靠人为框架，能力上限受限。文章提出“启发学习”，将其集成到推理侧成Isaac框架，通过Prompt与网络层注入复用旧经验，实验显示能大幅提升大模型任务性能。
龙虾更新出了大bug，12小时内紧急发新版
龙虾火速更新到OpenClaw 2026.3.23版本，距3.22版本仅12小时。此次更新光速修复UI崩溃，接入DeepSeek和Qwen家族，完善插件API兼容性，还在UI、模型、安全等方面有改进。
我如何用 Codex 在 5 天内"找回"丢失的源代码
作者早年写的 Electron 画图程序源码丢失，只剩编译版本。受 OpenAI 博客启发，用 Codex 逆向还原，5 天得到能运行的 TypeScript 代码。过程中解决了 Codex 删减内容、上下文有限等问题，还分享了经验。
Gemini 3.0 Pro内测流出，编程实力惊人！下周上线
十月AI战场热闹非凡，Sora 2刚亮相，谷歌下一代Gemini旗舰模型Gemini 3.0蓄势待发，最晚下周上线。内部代码流出其有Pro和Flash两版本，实测在编程等方面表现惊艳，虽未发布却暗示编码时代将变。