专家并行性」共找到 1160 篇相关文章

产品应用8

MoE推理「王炸」组合:昇腾×盘古让推理能狂飙6-8倍

在通往AGI进程中,MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型,经多方面优化,推理能提升6 - 8倍。还采用多种策略和算法,在昇腾不同平台展现卓越能,为大模型落地提供支撑。

机器之心
推荐文章7

深度剖析将 Kafka 构建在 S3 上的技术挑战与最佳实践

文章基于AutoMQ深入剖析将Kafka构建在S3上的挑战与解法。探讨延迟、IOPS、缓存管理等问题,介绍AutoMQ应对策略,如用WAL+S3架构降低延迟、批处理数据减少请求等,还提及Kafka兼容及跨区流量成本处理。

InfoQ
算法论文8

TreeHop:无需LLM的高效多跳问答新范式

多跳问答(MHQA)任务有挑战,现有方法依赖LLM,计算成本高、延迟显著。TreeHop研究提出新方案,摒弃LLM,通过嵌入空间动态更新,降低延迟、减少模型参数量,还在主流数据集表现佳,适合工业应用。

深度学习自然语言处理
开源动态8

在校生开发,榨干 win 系统全部带宽!

介绍在校生开发的开源工具 HypoMux,它面向 Windows,能把多张网卡「绑」在一起,让下载任务多线路并行。有双模式可选,还能智能分流,兼容主流加速器。操作简便,可解决下载慢问题。

开源先锋
算法论文8

条条电路通罗马:大模型可解释的「唯一机制」可能从一开始就不存在

长期以来,机制可解释领域默认模型对同一任务的能力对应唯一内部「电路」。但被ICML 2026接收的新论文指出,「唯一电路」可能不存在,同一任务可由多个结构不同但能力相当的电路完成。

机器之心
开源动态8

几张GPU干翻超算!耶鲁AI颠覆化学合成,实验成功率71%

近日,耶鲁大学李昊特团队开发 AI 系统 MOSAIC,将化学合成知识分 2498 个领域训练专家模型。测试中对超 35 种新化合物合成成功率达 71%,还完成难反应与新反应,相关论文发表于《自然》。

DeepTech深科技
新闻资讯8

成立半年连续获数千万融资,智子芯元凭什么卡位国产算力生态?|甲子光年

智子芯元成立半年获数千万天使轮融资。国产AI算力生态面临适配难题,该公司用“AI+运筹”解决。其核心技术“运筹学x大模型”,自研KernelCAT引擎,实现多场景高效交付,具泛化

甲子光年
新闻资讯7

不要接盘!七巨头暗套84亿,20万亿AI泡沫濒临崩塌

穆迪报告揭示AI发展两条路径,要么生产率狂飙,失业率降至3.8%;要么泡沫破裂,460万人失业。2026年1月裁员数据似在验证后者。当前AI行业融资循环、巨头抛售股票,股市被高估,泡沫濒临破裂。

新智元
算法论文7

谷歌研究院探索多智能体协调的扩展原则

谷歌研究院对180种智能体配置对照评估,得出‘AI智能体系统首批定量扩展原则’。发现多智能体协同效果因任务而异,还指出工具使用瓶颈等问题,且开发预测模型辅助架构选择。

InfoQ
推荐文章8

我用 AI 翻译的三个阶段:提示词时代 → 推理模型时代 → Agent 时代

作者分享近 2 年 AI 翻译经验,将其分为提示词、推理模型、Agent 三个时代,介绍 Agent 翻译与提示词翻译区别,还阐述 Skill 创建迭代、三种翻译模式由来等,给出解决一致问题等方法。

宝玉AI