「自蒸馏」共找到 1158 篇相关文章
加速200倍，单显卡1.8秒生成5秒高清视频！清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略，在多模型测试中加速100 - 205倍，且画质几乎无损。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
居然 11.5K star 了，这个一人公司的秘密项目有啥魔力！
做自媒体和内容运营重复工作多、效率低。开源项目`AiToEarn`用AI+自动化整合内容创作、发布等环节，支持多平台，有11.5k+ star，还介绍了安装使用方法。
DeepSeek之后：中国开源人工智能生态的架构选择
自2025年1月“DeepSeek时刻”，中国开源社区有历史性进展，讨论焦点从模型转向架构与硬件选择。技术架构多元，多模态能力扩展，开源许可宽松，小模型走红，本土硬件采用加快。
谷歌重回铁王座！Gemini 3吊打GPT-5，奥特曼发信承认技不如人
谷歌携Gemini 3和Nano Banana Pro强势回归AI王座，连奥特曼都承认谷歌「反超」。谷歌逆袭原因多样，创始人布林回归打破「大公司病」，CEO劈柴推动「AI优先」，还有自研TPU提供算力保障。
正确答案 ≠ 正确推理，CoT 或成大模型推理能力停滞的「罪魁祸首」？
研究指出当前大模型推理能力评估多关注答案准确性，忽视推理步骤。通过对前沿模型测试发现，2023 - 2024 年大模型推理能力提升停滞，进步靠提示工程，自底向上策略最有效。
The Batch: 942｜暗基因组揭秘
AlphaGenome 能解读人类和小鼠基因组中 98% 不编码蛋白质部分，识别多项特征。它经预训练和知识蒸馏，在多项评测超早期模型，API 等免费用于非商业，助研究基因组与生物过程联系。
Dario访谈首曝：Mythos被称为「超级武器」
Bloomberg主持人与Anthropic CEO Dario Amodei进行69分钟访谈。谈及Mythos模型强大危险不敢发布，还探讨AI递归自改进、文明崩塌概率、白领工作消失等问题，Dario坦率面对技术矛盾。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
神秘模型屠榜多日、碾压Seedance 2.0！背后竟是阿里大招：新部门首作实锤，引爆股价拉升
近日，神秘模型 HappyHorse-1.0 登顶 Artificial Analysis 视频模型排行榜。阿里巴巴确认其为 ATH-AI 创新事业部自研产品，正在内测，4 月 30 日上线 API。该模型技术亮点多，若开源或改变 AI 视频行业格局。