新闻资讯8
英伟达软件升级,MoE模型单GPU吞吐飙升2.8倍
新智元
AI 摘要
英伟达:基于Blackwell架构软件升级,让MoE模型推理效率跃升,单GPU吞吐升2.8倍。通过程序化依赖启动等优化,让GB200、HGX B200性能提升,延长硬件生命周期。
阅读原文 · 新智元
不换GPU,性能飙升2.8倍!英伟达用软件暴打摩尔定律
2026年1月8日,英伟达官网披露,基于Blackwell架构的推理软件栈升级,让混合专家模型(MoE)推理效率迎「阶跃式」突破,单GPU吞吐飙升2.8倍,显著降低推理成本。其通过软件针对性升级发挥硬件潜力,还进行多项优化。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
黄仁勋:没有Windows就没有英伟达
本文整理了黄仁勋与纳德拉在微软英伟达联合活动的对话,回顾双方数十年合作历程,分享下一代AI PC、Agent安全、混合智能构想,发布RTX Spark新品,探讨Agent落地的权责问题。
AI科技大本营
新闻资讯9
谷歌TPU跑Kimi比英伟达GPU快57%
本文报道由vLLM原班人马创立的Inferact公司,联合谷歌优化后,16块谷歌TPU v7跑Kimi K3速度比同数量英伟达GB200快57%,相关代码已开源,详解了背后的技术优化思路。
量子位
新闻资讯9
三大AI巨头论战AI要不要踩刹车
Salesforce Dreamforce 2026大会上,OpenAI、Anthropic、英伟达三大AI巨头CEO罕见同台,围绕AI发展是否需要踩刹车展开激烈论战,各方立场背后暗藏产业利益博弈,头部模型厂商已密谈行业安全协同。
AI前线
新闻资讯8
英伟达等企业限制Claude模型使用
本文援引The Information报道,英伟达、Palantir等大企业因对敏感数据控制权的顾虑,限制Anthropic Claude前沿模型用于核心敏感业务,探讨了企业级AI落地的新矛盾与行业发展方向。
机器之心