「大模型蒸馏」共找到 9221 篇相关文章
华为世界模型来了！单卡30分钟生成272㎡场景
华为联合上海交通大学、华中科技大学推出世界模型WordGrow，可生成1800㎡超大室内场景，单卡30分钟跑272㎡。它用数据精准预处理、3D块补全机制、粗到精生成策略填3D场景构建的坑，指标优、速度快。
MiniCPM 4.0极速狂飙，端侧模型的比赛，结束了！
面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有InfLLM v2、CPM.cu等创新，基准测试碾压对手，适配全平台，还有科研、工具调用等功能，标志端侧长文本时代到来。
面壁MiniCPM-SALA模型，稀疏-线性注意力，单卡吞吐百万上下文
面壁智能团队提出SALA，基于此训练的MiniCPM-SALA模型，在单张A6000显卡实现百万token超长上下文推理，训练成本降约75%。它结合稀疏与线性注意力，采用混合架构，继承权重降低成本，在长文本处理上优势明显。
实测 MiniMax H3：开源“斩杀线”蔓延到视频模型圈
本文实测 MiniMax H3 视频模型，它 8 月 3 日开源，成本低至 0.5 元/秒，在编辑榜成绩佳。它定位全模态生成，能多素材输入。实测效果好，价格约为 Seedance 2.5 的三分之一，还支持原生剪辑，适配多芯片与工具。
OpenAI内部代码泄露！最强模型「皇帝」登基，0思考延时吓人
OpenAI代码泄露，神秘的「企鹅家族」模型在测试，代号Emperor的推理预算最高。同时，ChatGPT将推「记忆搜索」功能。此前谷歌Gemini 3抢份额，OpenAI或提速发布GPT - 5.2抗压。
LeCun世界模型：48倍规划速度，单卡就能跑
Yann LeCun团队推出LeWorldModel世界模型，仅靠两条数学规则，让机器几小时学会物理运转逻辑，动作规划速度超同类48倍。它跳出复杂训练修补怪圈，单卡训练，在多环境测试表现出色，还展现对物理法则的深刻理解。
5个大疆离职员工，把3D打印带回风口
3D打印再度火热，街头地摊产品畅销，社交平台热度高。拓竹科技由5位大疆离职员工创立，其产品X1成绩亮眼，MakerWorld平台以积分制度吸引用户。如今3D打印因性价比、新消费、低门槛等因素升温。
一篇综述：知识图谱的3种类型，6大推理任务
知识图谱（KGs）在认知智能系统中作用关键，知识图谱推理（KGR）能基于现有事实推断新知识。文章综述了3种知识图谱类型、6大推理任务，介绍推理方法、应用，还指出KGR面临的挑战与机遇。
Sebastian Raschka 新书《从头开始推理》抢先看，揭秘推理模型基础
著名AI技术博主Sebastian Raschka新书《Reasoning From Scratch》第一章介绍LLM中推理含义、训练阶段、模式匹配与逻辑推理区别，还讲述提升推理能力方法及从头构建推理模型的重要性等内容。
FlashAttention-4正式发布：算法流水线大改，矩阵乘法级速度
深度学习领域底层优化技术FlashAttention更新至4版本。其核心作者称在Blackwell GPU上，注意力机制执行速度接近矩阵乘法。新算法克服瓶颈，在B200上性能提升，还获Pytorch官方支持。