「一致性蒸馏训练」共找到 2334 篇相关文章
Karpathy最新手搓！复现GPT-2成本狂降600倍：仅需507元3小时训练「最好的AI学习项目」
Andrej Karpathy的个人项目nanochat更新，现训练GPT - 2级别的LLM成本低于100美元，在单个8XH100节点上仅3小时花约73美元，较7年前成本降600倍，还列出关键优化技术，设排行榜。
离谱……面壁让 AI 写了个训练框架，然后它自己训出了最强的 1B 模型：MiniCPM5-1B
面壁发布 1B 参数量级最强端侧文本大模型 MiniCPM5 - 1B，其 Base Model 由 AI 编写的训练框架 ForgeTrain 训出，速度超英伟达 Megatron 10%。该模型性能出色，部署门槛低，数据治理方案对应数据集也已开源。
视频世界模型跑长序列不「崩」了！用光流约束+历史记忆+多步训练，让动态场景稳如磐石
现有视频世界模型在长时间交互中易出现运动不合理与场景崩坏问题，核心原因是误差累积。MagicWorld提出面向长时稳定性的交互式建模框架，通过光流约束、历史缓存检索和多步聚合训练，有效缓解误差累积。
GTC 巅峰对话 Jeff Dean x Bill Dally：预训练范式已死、延迟瓶颈不在计算、谈透 AI 五年未来 | GTC 2026
GTC 2026上，NVIDIA首席科学家Bill Dally和Google Jeff Dean展开重磅对话。讨论了模型能力进步、低延迟推理架构、模型自主进化、数据与算力、训练与推理硬件差别等多方面内容，分享对未来AI的看法与见解。
全球首个完全AI编写的训练框架来了，速度反超英伟达：面壁要用 AI 把国产算力软件重写一遍
面壁智能发布全球首个全由AI编写的训练框架ForgeTrain，在华为昇腾系列上验证，速度超英伟达Megatron 10%。其构建分三阶段，目标是为不同需求“现场锻造”软件，还为国产算力软件生态赶超提供新思路。
年度AI论文！全球三大顶尖模型的防蒸馏机制全面告破：小模型“套出”大模型隐藏思维链，Kimi-K3重现概率异常
这篇论文指出三大前沿AI模型厂商API有密码学旁路漏洞，攻击者用轻量级模型就能恢复大模型隐藏思维链数据。还揭示部分模型训练或借鉴大模型思维链，此漏洞也致企业数据隐私安全问题。
从OpenAI回国的90后姚班博导，打造了国内首个开源Agent训练框架：从OpenAI团队解散与重组，看智能体十年沉淀
本文讲述90后姚班博导吴翼的经历。他曾在OpenAI参与多智能体研究，回国后投身学术与创业，打造国内首个开源Agent训练框架AReaL。他分享在OpenAI的经验，探讨创业、技术发展等问题。
完全透明开源的共情语音大模型，三阶段训练，四大模块实现端到端对话 | 紫东太初联合长城汽车开源OpenS2S
GPT - 4o、Gemini等顶级语音模型闭源，紫东太初团队联合长城汽车AI Lab开源端到端共情语音语言大模型OpenS2S，提供构建共情语音系统新范式，开源所有核心资源，还介绍了技术方案、数据构建及训练流程等。
你天天用的Claude和Codex，Meta内部不让随便用了
今年5月Meta给工程师划红线，限制用Claude Code和Codex，因其太好用。Meta组建团队自研编程助手MetaCode，担心外部模型输出渗进训练数据，出现“蒸馏陷阱”，且能省钱。
The Batch: 942｜暗基因组揭秘
AlphaGenome 能解读人类和小鼠基因组中 98% 不编码蛋白质部分，识别多项特征。它经预训练和知识蒸馏，在多项评测超早期模型，API 等免费用于非商业，助研究基因组与生物过程联系。