「自蒸馏策略优化」共找到 2064 篇相关文章
CUDA再见了！寒武纪亮出软件全家桶
在AI时代，竞争转向软件生态等综合实力。寒武纪亮出软件全家桶，其基础软件平台Cambricon NeuWare日趋成熟。在训推解决方案上成果显著，各组件如驱动、编译器等也有诸多优化和功能，加速产业智能化转型。
躲了科学家几十年的流体不稳定奇点，被DeepMind用AI找到了
谷歌DeepMind与多所高校合作，用物理知情神经网络（PINN）+高精度数值优化的方法，找到了流体方程里的不稳定奇点。这种奇点很“挑剔”，此前难寻踪迹，此次发现为非线性流体动力学研究提供新范式。
提示工程死亡？不，它刚刚重生为计算科学：一篇讲透Prompt设计的科学基础
大型语言模型在多步推理任务中受挫，因Transformer架构有计算深度限制。本文建立提示设计理论框架，揭示提示是信息选择器，优化提示可使推理性能提升超50%，将提示设计从试错艺术变为可计算科学。
ACL 2026｜打破推理同质化！阿里达摩院新作让RLVR从重复采样走向有效探索
阿里达摩院智能决策团队提出面向RLVR后训练的探索增强框架I²B-LPO，改进rollout策略，在关键节点生成更具区分度的推理轨迹，结合信息瓶颈自奖励机制，在多个数学基准上提升准确率与语义多样性。
从DeepSeek-V3到Kimi K2：八种现代 LLM 架构大比较
文章对比了DeepSeek-V3、Kimi K2等八种现代LLM架构。介绍各模型独特技术，如DeepSeek V3的多头潜在注意力和混合专家技术，OLMo 2的后归一化策略，Gemma 3的滑动窗口注意力等，探讨架构改进与突破。
1000+页PDF解析速度暴涨3倍，MinerU模式不香了
百度PaddleOCR推出HPD - Parsing小模型，文档解析速度大幅提升，是上一代最快模型的1.62倍、自身原解码方式的3.06倍。它采用层级并行解码架构，有两层并行设计，效果出色且兼容性好，还分享了优质训练方法和优化思路。
机器人进入“边做边学”时代：星尘发布在线强化学习框架，让动态投掷成功率提升超141%
星尘智能基座模型团队公布在线强化学习框架SmoothRL，解决异步执行环境中具身模型在线微调难题。该框架让策略更新对应硬件实际执行，攻克延迟失准问题，在多项真机测试中大幅提升任务成功率。
Kimi K3设计榜登顶焚诀公开：就藏在思维链里
Kimi K3在Design Arena单次生成前端榜单中夺冠。它做前端设计审美一流，靠独特思维链反复迭代优化方案，还具备强大数据索引能力。不过上线48小时因算力不足叫停新订阅。
AI生图免训练提速1000%，办法：最简洁的“三阶段流水线”
AI画图速度慢，过往主流加速方法有局限。MrFlow团队提出三阶段流水线，在Qwen - Image等模型上实现10倍以上端到端加速，生成效果好，优势显著，还能与时间步蒸馏叠加，且完整开源。
Skills驱动推理新范式，清华&北大：Token立省59%，准确率不降反升
当前推理模型虽准确率高，但生成“思考过程”会使推理成本和延迟上升。奇元科技、清华、北大等提出TRS框架，将历史推理轨迹蒸馏成技能卡片，在推理时检索注入，实现更少Token、更高准确率。