「大规模专家并行」共找到 904 篇相关文章
首次披露！DeepSeek V3 发布软硬一体协同训练论文，公开「降成本」秘诀
DeepSeek团队发布论文《洞察DeepSeek - V3：规模的挑战和对AI架构硬件的思考》，从硬件架构和模型设计双重视角，探索其经济高效的大规模训练和推理方法，介绍了设计原则、低精度驱动等多方面内容及降成本秘诀。
Shopify CEO考虑禁用Claude Code，因其不兼容AGENTS.md
Shopify CEO Tobi Lütke 考虑在 Shopify 禁用 Claude Code，因其坚持读取`CLAUDE.md`，与团队常用的`AGENTS.md`等不兼容，可能使开发者获不同项目规则。开发者社区给出解决办法，Lütke仍担忧大规模维护难题，Claude Code 团队称会跟进。
ICLR 2026 Oral｜多模态知识图谱对齐难：破解噪声关联至为关键
在数据多元化时代，多模态知识图谱能为下游应用提供数据支撑，实体对齐是构建知识图谱的核心技术。但大规模知识图谱关联与融合面临噪声和潜隐关联挑战。四川大学团队提出 RULE 方法，缓解了这些影响，论文被 ICLR 2026 接收为 Oral。
重磅！OpenAI时隔五年再发布开源模型gpt-oss：开源SOTA，可在16g笔记本运行
谷歌推出Genie 3后，OpenAI宣布发布开源推理模型gpt-oss，有gpt-oss-120b和gpt-oss-20b两个型号，采用混合专家架构和4位量化方案，能快速推理，原生支持128k上下文长度。文章还介绍了模型表现、训练等情况。
苹果憋一年终超同参数 Qwen 2.5？三行代码即可接入 Apple Intelligence，自曝如何做推理
今年 WWDC 大会上，苹果推出专为增强 Apple Intelligence 功能的语言基座模型，含约 3B 参数紧凑型与基于服务器的混合专家模型。经优化可在苹果芯片高效运行，改进工具使用与推理能力，评测显示设备端模型表现优。
企业出海，被中国信通院和腾讯重新定义了一次
中国企业出海面临信息分散、专业支撑不足、属地化服务难等问题。7月17日，中国信通院与腾讯在2026世界人工智能大会共赢金砖论坛上推出AI航海家+，将七国生意经装进AI对话框，有22位懂当地规则的专家，能替企业做判断。
腾讯混元AI Infra如何优化Hy3 Preview：一次大模型推理性能提升的技术拆解
文章聚焦腾讯混元AI Infra对Hy3 preview模型的推理性能优化。从算子优化与融合、并行策略等五大维度，剖析技术思路、算法及收益，如Attention算子单batch长文本最高加速2.95x，还提及后续显存优化等工作。
GLM-4.7-Flash无审查版发布：30B MoE模型，仅3B激活参数
GLM-4.7-Flash无审查版由HauhauCS发布，基于原版移除审查机制。采用30B - A3B混合专家架构，总参数量31B，每次前向传播仅激活约3B参数，推理快，支持200K上下文长度，有两种变体和四种量化版本。
Meta超级智能实验室又发论文，模型混一混，性能直接SOTA
大语言模型训练依赖算力和时间，传统模型 Souping 多采用均匀平均。Meta 等研究者提出类专家 Soup（SoCE），利用基准测试类别构成选最优模型，非均匀加权平均，实验显示其提升了模型效果与稳健性，在排行榜获 SOTA 成绩。
奥特曼：感受不到GPT-5变强，是因为你还不够「专业」
GPT-5发布后口碑不佳，直播事故、网友吐槽、专家唱衰不断，有人喊出‘AI第二次寒冬要来了’。但奥特曼认为这是节奏和期待错位，GPT-5在科研等高阶领域有提升，技术范式也有转变，且OpenAI仍看重规模。