搜索：大规模专家并行

「大规模专家并行」共找到 904 篇相关文章

视频生成太慢？英伟达、谢赛宁等发布TMD框架，实现70倍加速

大规模视频扩散模型采样效率低，应用受限。英伟达联合谢赛宁等提出TMD框架，将大型视频扩散模型蒸馏为少步生成器。实验显示，TMD能实现超70倍加速，质量损失小，用户也更偏好其生成的视频。

近日昆仑天工发布 Mureka V8 音乐大模型，昆仑天工董事长周亚辉称其标志 AI 音乐达大规模工业化应用成熟度。高晓松认为 AI 与自己创作机制不同，但也肯定其能力，当前 AI 音乐正重塑产业权益结构。

12月21日，GOBI 2025全球开源商业创新大会在北京举办。会上多位专家、学者围绕AI开源商业展开讨论。杜莹芬强调开源可持续需制度支撑；汪华称中国开发者迎AI开源创业黄金窗口；蒋涛梳理AI开源商业化新逻辑。

在第五届ATEC科技精英赛上，人形机器人在户外场景状况百出，如摔倒、罢工等。专家认为过去高估其通用能力，五年内走进家庭承担家务较难。具身智能面临感知、决策、硬件等难题，但也有队伍取得成果。

当Ilya断言大模型未来在于架构创新时，中国团队推出全球首个可大规模落地的开源原生多模态架构NEO。它颠覆传统拼接模式，从根上融合视觉与语言，以简洁架构证明架构聪明才是下一代AI竞争力。

芯片速度触顶，摩尔定律失效，但AI却在疯狂跃迁。Nature文章指出，智能的增长不靠芯片加速，而是结构重组与协作。其核心是预测和并行协作，AI正以类似生命演化的方式发展，与人类相互依存。

腾讯混元A13B模型仅130亿激活参数，却能和千亿级大模型竞争，获Flash Attention作者赞叹。它精准卡位性能与效率‘甜蜜点’，依托高质量预训练和结构化后训练，多方面表现突出且已全面开源。

随着大模型能力突破，Agent 从概念走向应用。清华系 Agent 框架 Cooragent 开源获 1.9k stars。其创始人王政认为 Agent 框架要适应多样需求，解决泛化与精确性平衡等痛点，还分享了对 MCP、框架融合等看法。

腾讯开源混元大模型最新版本Hunyuan - A13B，为专家混合模型，有800亿参数，130亿激活。支持快慢思考模式，针对AI Agent强化，设计超30种智能体指令。测试成绩超DeepSeek - R1等，架构和训练有优化。

大概念模型（LCM）是自然语言处理新范式，侧重结构化推理和理解，与 LLM 不同。它依赖结构化知识，可模拟专家思维，解决当前 AI 缺陷，文章还介绍其架构、应用、局限，探讨与 LLM 结合的未来发展。