「策略内自蒸馏」共找到 1357 篇相关文章
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
博士学位答辩PPT分享 | 基于机器学习的复杂流场预测方法研究
左奎军博士论文聚焦基于机器学习的复杂流场预测，以多种对象构建智能流场预测网络架构，发展耦合求解方法，剖析核心要素影响，提出多个创新模型和策略，还分析了不同模型在流场预测中的表现与问题。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
刚刚，全球最难考试惊天大反转！黑马AI冲破36%，顶流模型集体翻车
ARC-AGI-3测试中，顶级大模型Opus 4.6仅得0.2%，人类获满分。而Symbolica公司用Agentica框架首日就取得36.08%的成绩。该框架有独特技术路径和策略，但成绩未经验证，ARC-AGI-3被视为通向AGI的‘北极星’。
十二大顶尖大模型决战华尔街与量化投资
文章解读重磅论文，该研究汇聚五家顶级AI厂商十二个大模型，在标普500指数十一大板块构建投资组合并测试。结果表明，混合智能策略是稳健收益最佳路径，未来量化投资是人机和量化模型三元融合。
月烧35万元token、逼得Claude官方连夜限速！被全网吐槽的中国“榜一大哥”，已经靠 AI 年入千万了
X用户“刘小排”认领30天按200美元计划消耗5万美元Claude Code token一事。他靠AI年入近千万，用Claude Code做产品，回应网友质疑，称在规则内使用，还分享创业经验，认为AI是长期机会。
从deepseek v4的受限流线型超链接mHC谈架构优化
文章围绕DeepSeek v4的受限流线型超链接mHC探讨架构优化。指出过去十年深度学习重扩展层内计算，忽视层间通信。介绍多种层间通信改进方法，提出用检索替代累加，还提及深度注意力机制及混合深度注意力的成果。
Dario Amodei真的很焦虑...
文章围绕Dario Amodei的采访展开，探讨AI多方面问题。他坚信计算要素假说，认为RL与预训练有相似规模化现象；预计一两年编码达AGI，十年内信心90%；谈AI盈利、算力采购、应用扩散等，还提及机器人革命和AGI定价。
实测可灵AI的新视频模型，它生成的动作戏酷到封神。
作者实测可灵2.5新视频模型，它已灰度内测并登上釜山电影节。与可灵2.1对比，可灵2.5在运动和表演能力上大幅提升，还增强了文生视频与理解能力，让创作者有更多创作自由。
AI哪怕答案正确，逻辑链却惨不忍睹，奥数级不等式证明成功率不到50%｜ 斯坦福&伯克利&MIT
斯坦福、伯克利、MIT等联合研究，系统评估29个大模型在奥数级不等式证明任务的能力。研究发现，模型答案正确多靠猜，推理漏洞多，参数大、思考久也不能提升推理严谨度，但自我反思和定理线索策略有改善效果。