搜索：大规模专家并行

「大规模专家并行」共找到 904 篇相关文章

AI Coding 之后，如何让 Agent 进入企业研发全链路？得物推荐的 Harness 实践

得物资深技术专家白忠魏在AICon大会分享实践。团队目标是将AI Coding扩展为全链路方法，介绍了PDCA循环、全链路前提、七阶段护栏等探索，还提及用知识体系和混合Agent架构解决问题，已有阶段性成果。

上海人工智能实验室提出全新范式SDAR，通过‘训练 - 推理解耦’融合AR模型高性能与扩散模型并行推理优势。实验证明，SDAR性能与原版AR模型持平或超越，还能加速推理，且已全面开源全系列模型。

京东和中科院信工所开展Self - Taught RLVR系列研究，连发三篇论文。从RLSD、NPO、CoPD三个维度探索让大模型自我指导。如RLSD解决信息泄漏，NPO引入有效学习信号，CoPD整合多专家能力，各有创新与良好效果。

Moonshot AI发布Kimi K2.5技术报告，该模型将文本和视觉打通，有并行执行的智能体集群系统。它采用Joint Training，提出“Zero-Vision SFT”，用MoonViT - 3D处理图像和视频，开源后受欢迎，展示通用智能体可能。

阿里开源小型MoE代码模型Qwen3 - Coder - Next，总参数量800亿但仅激活30亿参数，在代码生成等任务表现出色。团队构建训练技术栈解决数据匮乏，模型训练分阶段，多领域专家模型能力整合，基准测试性能强劲。

作者作为创业者和 Agent 重度用户，分享了使用文库 GenFlow2.0 的体验。它是全球首个全端通用 Agent，支持多 Agent 并行工作，过程可干预，整合多维生态，交付形态接近专业生产工具，还支持 MCP 协议开放能力。

Meta和CBRE推出LevelUp光纤技术员培训项目，为数据中心培养新手。此外，Google、Amazon、Microsoft也有类似职业教育项目。同时，这些超大规模云服务商还在电力、硬件、连接等方面自建自用，呈现垂直一体化趋势，但资本市场仍按软件公司给它们估值。

将大模型应用于特定领域需数据微调，但筛选高保真训练数据难度大、成本高。谷歌提出新主动学习筛选流程，能将训练数据规模降1万倍，还提升模型与人类专家一致性。经实验验证，该方法效果显著。

视觉 - 语言 - 动作（VLA）模型“观测 - 生成 - 执行”串行模式致交互卡顿，清华与联想合作提出StreamingVLA框架，引入两项技术实现并行处理，在测试中显著提升效率和流畅度，为VLA模型部署提供新方案。

DeepSeek提及针对国产芯片的FP8量化设计，引发对大模型量化策略关注。不久后英伟达发力低精度量化，将NVFP4策略拓展到预训练阶段，其方案能解决核心挑战，实验证明NVFP4在大规模训练中可行。