新闻资讯8
英伟达软件升级,MoE模型单GPU吞吐飙升2.8倍
新智元
AI 摘要
英伟达:基于Blackwell架构软件升级,让MoE模型推理效率跃升,单GPU吞吐升2.8倍。通过程序化依赖启动等优化,让GB200、HGX B200性能提升,延长硬件生命周期。
阅读原文 · 新智元
不换GPU,性能飙升2.8倍!英伟达用软件暴打摩尔定律
2026年1月8日,英伟达官网披露,基于Blackwell架构的推理软件栈升级,让混合专家模型(MoE)推理效率迎「阶跃式」突破,单GPU吞吐飙升2.8倍,显著降低推理成本。其通过软件针对性升级发挥硬件潜力,还进行多项优化。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
OpenAI自研芯片性能超英伟达,2026年部署
8月25日,OpenAI公布自研推理芯片Jalapeño性能测试结果,首次给出其在多款公开大模型上的具体数据。该芯片在低功耗下实现高推理吞吐量和低延迟,性能超英伟达芯片,B0版已进入制造阶段。
DeepTech深科技
新闻资讯7
Marin 535B模型公开训练,吴恩达力挺!
当多数模型公司还在争论是否开放权重时,斯坦福大学的Marin项目启动535B-A23B模型训练,并公开训练过程。该项目旨在探索基础模型能否像开源软件一样被公开研究和建设,引发关注。
InfoQ
新闻资讯8
OpenAI:Jalapeño芯片性能反杀英伟达
北京时间昨日凌晨,OpenAI 公布自研推理芯片 Jalapeño 实测结果,其在多指标挑落英伟达 GB300。OpenAI 用 GPT - 6 和加强版 Codex 造芯,9 个月完成硬件设计优化,3 个月搞定软件栈,威胁英伟达 CUDA 根基。
AI前线
新闻资讯7
OpenAI「小辣椒」芯片碾压英伟达!
OpenAI自研芯片「小辣椒」跑分碾压英伟达最强blackwell,低延迟、高吞吐、低并发等全达SOTA级别。但英伟达股价未跌反涨,OpenAI也表态不会弃用英伟达。「小辣椒」预计2027年量产,OpenAI还将开发后续版本,不过其数据中心负责人离职,无人接手。
量子位