「差分蒸馏」共找到 1051 篇相关文章
你天天用的Claude和Codex，Meta内部不让随便用了
今年5月Meta给工程师划红线，限制用Claude Code和Codex，因其太好用。Meta组建团队自研编程助手MetaCode，担心外部模型输出渗进训练数据，出现“蒸馏陷阱”，且能省钱。
「AI 100」榜单启动招募，AI产品“年会”不能停丨量子位智库
2025年国内AI产品领域涌现诸多关键词，对应多款颠覆性产品。量子位智库2025年度「AI 100」榜单开启招募，分三大板块，采用定量与定性结合评估体系，还公开国内AI产品知识库。
加速200倍，单显卡1.8秒生成5秒高清视频！清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略，在多模型测试中加速100 - 205倍，且画质几乎无损。
tokens烧钱太快？试试这个四层模型组合
ClaudeCode等智能体兴起，开发者面临tokens不够用、主流模型降智问题。网络给出多模型策略缓解，网友将2026年主流模型分四档，还介绍了实际路由策略、部署建议，指出单模型依赖危险。
NICE59期 | Agent进入下一篇章！Alita：不靠人工预设，自己造MCP自我进化的AI
这篇论文提出让 Agent 主动创造解决 MCP 的工具实现自我进化，工具可网上检索或自主编写。Alita 做法更通用实效，还提出‘Agent 蒸馏’思想，其生成的 MCP 已用于‘manus’。
2025年第二届「兴智杯」全国人工智能创新应用大赛正式启动，线上报名开启
2025年5月8日，第二届「兴智杯」全国人工智能创新应用大赛启动，由多机构主办。大赛聚焦关键能力设赛题，分主题赛和总决赛，有激励机制。深圳产业优势突出，共同主办助力人工智能融合发展。
省下1.25倍算力！Kimi这篇论文，可能改写所有大模型的训练方式
大模型层数增多时，残差连接存在PreNorm稀释问题，导致后面层贡献被稀释。Kimi论文提出Attention Residuals方案，还给出工程解法Block AttnRes，实验显示能省算力且提升效果。
「AI 100」榜单启动招募，AI产品“年会”不能停丨量子位智库
2025年国内AI产品领域涌现诸多关键词，对应多款颠覆性产品。量子位智库2025年度「AI 100」榜单开启招募，分三大板块，采用定量与定性结合评估体系，还公开自研AI产品知识库。
Transformer论文作者重造龙虾，Rust搓出钢铁版，告别OpenClaw裸奔漏洞
Transformer作者Illia Polosukhin重造安全版龙虾IronClaw。OpenClaw安全状况差，IronClaw用Rust重写，建立四层防御，还能防提示注入。其背后是NEAR更大构想，目标是用户掌控数据和资产。
技多不压身，那龙虾的 Skill 是越多越好吗？
作者结合学术研究和自身经验探讨小龙虾装Skill问题。研究表明Skill并非越多越好，装多效果变差，还给出合适数量区间。同时分享用好Skill的经验，如按需安装、合理增减拆分等。