「自蒸馏策略优化」共找到 2064 篇相关文章
从deepseek v4的受限流线型超链接mHC谈架构优化
文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算，忽视层间通信。介绍多种层间通信改进方法，提出用检索替代累加，还提及深度注意力机制及混合深度注意力的成果。
规模化人工判断：Dropbox 如何借助大语言模型优化 RAG 系统标注
为提升 Dropbox Dash 生成回复的相关性，工程师采用大语言模型辅助人工标注。该方案解决了纯人工标注的局限，通过人工校准大语言模型标注的方法，为 RAG 系统提供了有价值参考。
告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%
美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。
博士学位答辩PPT分享 | 基于神经网络的偏微分方程优化求解方法研究
本文聚焦基于神经网络的偏微分方程优化求解方法，指出传统数值求解范式有局限，物理信息神经网络（PINNs）虽有潜力但面临瓶颈。作者从多方面研究，形成工程流动问题分析框架与改进方法。
Kimi 大模型训推混部的稳定性与资源优化实战
月之暗面系统工程师黄维啸在 QCon 大会分享 Kimi 大模型训推混部实践。介绍了训推集群挑战，如故障多、资源利用低等，还阐述了全链路稳定性提升、资源高效利用及强化学习混合部署等方案。
Agent 走向具身世界：从语言智能到机器人「大脑指挥官」
华为诺亚方舟实验室发布 RoboHarness 系统，解决不同策略协作问题。它将独立控制系统封装成可调度技能，由 Coding Agent 决策，还设计辅助技能和 Memory Bridge 模块，促进策略协同，推动具身智能发展。
tokens烧钱太快？试试这个四层模型组合
ClaudeCode等智能体兴起，开发者面临tokens不够用、主流模型降智问题。网络给出多模型策略缓解，网友将2026年主流模型分四档，还介绍了实际路由策略、部署建议，指出单模型依赖危险。
Veo何止生成视频：DeepMind正在用它模拟整个机器人世界
通用型机器人策略发展带来挑战，传统评估方法有局限，前沿视频模型虽有潜力但面临困难。Google DeepMind团队提出基于Veo的机器人策略评估系统，经实验验证有效，展示了视频仿真评估的可行路径。
智能流体力学青年学者论坛第29讲：刘军博士——人工智能技术在工业产品设计中的应用
本报告重点介绍贝叶斯优化技术在工业气动设计产品设计上的应用，采用特定方法用于电动汽车暖通空调系统设计，以降低CFD成本。还简单介绍工业产品优化设计中另外两种成功方法。
别再手动百度了！让 AI 帮你“开挂”搜全网，效率 x10
随着DeepSearch问世，搜索模式正从传统网络搜索向智能体搜索转变。文章拆解Search Agent核心模块，围绕制定任务、搜索、优化、应用和评估分析，介绍各模块特点、架构及优化方向等。