新闻资讯6

天数智芯GPU实测吞吐超英伟达H200

量子位2026-10-29

AI 摘要

国产芯片厂商天数智芯现场对比英伟达：云端GPU天垓300大模型推理吞吐达英伟达H200的1.05倍；端侧芯片TY1200大模型跑分也超Jetson Thor。

8卡训练Qwen3吞吐达英伟达H100的1.33倍

运行英伟达Cosmos世界模型达Thor的180%

借助Agent调优，模型适配时间由10天缩至2小时

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

摩尔线程单季扣非净利润首次转正

国产GPU厂商摩尔线程三季度营收15.52亿元，同比增1773.92%，扣非净利润2007万元，单季扣非净利润首次转正，但前三季度扣非累计仍亏损1.31亿元。

DeepSeek开源了支撑自身大规模推理服务的框架DeepInfer与配套token编解码组件deepseek-recipe，披露的吞吐量数据经计算得出大模型API毛利率达82%，引发AI行业对盈利性与推理优化的广泛讨论。

本文介绍了获6.1k GitHub Star的开源流式MoE推理框架Edge0，该框架通过SSD专家卸载、路由预测和Recover-LoRA技术，仅需2.5G内存即可运行350亿参数大模型，支持多平台部署运行。

大模型开源此前多开放权重和模型代码，此次DeepSeek将开源推进到推理服务层，公开DeepInfer推理框架及配套组件，开放大模型推理服务核心工程实现，为开发者提供学习参考。