「同策略蒸馏」共找到 1178 篇相关文章
NVIDIA技术沙龙 《大规模EP优化：PD分离MoE并行方式》课程笔记
本文是NVIDIA技术沙龙课程笔记，介绍大规模EP优化的PD分离MoE并行方式。涵盖PD分离、大规模专家并行等五项关键技术创新，还对比多模型架构，展示推理服务架构性能特点与优化策略，以及各技术工作流程和效果。
博士学位答辩PPT分享 | 基于机器学习的复杂流场预测方法研究
左奎军博士论文聚焦基于机器学习的复杂流场预测，以多种对象构建智能流场预测网络架构，发展耦合求解方法，剖析核心要素影响，提出多个创新模型和策略，还分析了不同模型在流场预测中的表现与问题。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
刚刚，全球最难考试惊天大反转！黑马AI冲破36%，顶流模型集体翻车
ARC-AGI-3测试中，顶级大模型Opus 4.6仅得0.2%，人类获满分。而Symbolica公司用Agentica框架首日就取得36.08%的成绩。该框架有独特技术路径和策略，但成绩未经验证，ARC-AGI-3被视为通向AGI的‘北极星’。
十二大顶尖大模型决战华尔街与量化投资
文章解读重磅论文，该研究汇聚五家顶级AI厂商十二个大模型，在标普500指数十一大板块构建投资组合并测试。结果表明，混合智能策略是稳健收益最佳路径，未来量化投资是人机和量化模型三元融合。
宇树智元共用一个大脑！神秘模型Demo炸场，10分钟一镜到底
一条10分钟一镜到底的Demo视频引发关注，视频中宇树和智元的机器人同用一个“大脑”，完成多种任务，如擦窗、收纳等，还展现出跨本体协作等能力。该模型跳出主流具身模型固有框架，或改写具身智能行业认知。
AI哪怕答案正确，逻辑链却惨不忍睹，奥数级不等式证明成功率不到50%｜ 斯坦福&伯克利&MIT
斯坦福、伯克利、MIT等联合研究，系统评估29个大模型在奥数级不等式证明任务的能力。研究发现，模型答案正确多靠猜，推理漏洞多，参数大、思考久也不能提升推理严谨度，但自我反思和定理线索策略有改善效果。
SIGGRAPH Asia 2025最佳论文 | 港中大、曼彻斯特大学获奖
SIGGRAPH Asia 2025将“最佳论文奖”颁给港中大与曼彻斯特大学团队研究。该研究提出全新切片计算框架，把切片生成与路径规划转化为数学优化问题，解决传统DLP 3D打印难题，还介绍了进阶策略和实验结果。
首创Mid-training范式破解RL奥秘，Llama终于追平Qwen！
上海创智学院和上海交通大学研究团队深入探讨不同基础语言模型在强化学习训练中的差异，提出中期训练策略，将 Llama 改造成适配 RL 的推理基础模型，缩小与 Qwen 性能差距，还发布了 MegaMath-Web-Pro-Max 数据集。
0.3B参数，600MB内存！腾讯混元实现产业级2Bit量化，端侧模型小如手机App
腾讯混元团队推出面向消费级硬件的“极小”模型HY-1.8B-2Bit，参数量仅0.3B，内存占用600MB。它基于产业级2Bit端侧量化方案，生成速度提升，还通过多种方法提升能力，未来将探索新技术缩小与全精度模型差距。