Nemotron - H」共找到 167 篇相关文章

新闻资讯7

AI太空竞赛?英伟达H100刚上天,谷歌Project Suncatcher也要将TPU送上天

11月2日英伟达将H100 GPU送入太空,谷歌宣布开展Project Suncatcher,2027年初发射原型卫星将TPU送上天。该项目利用太阳能卫星群,可扩展AI计算规模,谷歌还分享早期研究成果,不过仍面临工程挑战。

机器之心
算法论文8

亿级短视频数据突破具身智能Scaling Law!Being-H0提出VLA训练新范式

真机数据匮乏使具身智能VLA模型发展受限,现有真机数据与所需上亿级训练样本相差甚远。BeingBeyond团队提出创新性方案,利用人类视频手部数据构建数据集,训练出VLA模型Being - H0,经实验验证效果良好。

量子位
开源动态8

SGLang Team:在 96 个 H100 GPU 上部署具有 PD 分解和大规模专家并行性的 DeepSeek

本文介绍 SGLang 团队在 96 个 H100 GPU 上部署 DeepSeek 的方法。利用 PD 分解和大规模专家并行性,SGLang 实现高吞吐量,成本低。博客探讨并行设计、优化方法,所有组件开源,也指出了当前局限与未来方向。

GiantPandaLLM
新闻资讯7

AI算力大战打到太空!英伟达前脚H100入轨,谷歌TPU后脚上天,中国玩家笑而不语

英伟达和谷歌在太空算力布局上竞争激烈,英伟达H100已入轨,谷歌TPU预计2027年初上天,二者都想建吉瓦级数据中心。太空部署有成本、散热等优势,但也有工程挑战,而中国之江实验室星座已商用。

量子位
新闻资讯7

老黄投了个120亿美元最贵种子轮!但小钱:H20中国开卖,市值一夜暴涨1600亿美元

OpenAI前CTO Mira创立的Thinking Machines Lab获约20亿美元融资,估值达120亿美元,英伟达领投。同时,英伟达老黄宣布H20恢复中国销售,推出RTX Pro新显卡,市值一夜涨1600亿美元。

量子位
新闻资讯7

现在整个AI投资逻辑都错了!微软CEO首次承认:成排的H100正在积灰,插不上电

微软CEO称AI行业投资逻辑有误,瓶颈已从芯片变为电力。微软大量H100因缺电力设施闲置,按芯片采购量为公司定价的模型是错的。真正赢家是早锁定电力协议的玩家,竞争护城河已改变。

AI寒武纪
算法论文8

英伟达再出手!新型混合架构模型问世,两大创新实现53.6倍吞吐提速

英伟达研究者提出新混合架构语言模型 Jet - Nemotron,在达 SOTA 全注意力模型精度时效率卓越,2B 版性能超 Qwen3 等,H100 GPU 上生成吞吐量最高加速 53.6 倍,基于 PostNAS 和 JetBlock 两大创新。

机器之心
新闻资讯8

刚刚,英伟达新模型上线!4B推理狂飙53倍,全新注意力架构超越Mamba 2

Jet - Nemotron是英伟达推出的小模型系列(2B/4B),由全华人团队打造。其提出PostNAS与JetBlock,实现架构优化。相比Qwen3等模型,它在多维度准确率更高,H100 GPU上推理吞吐量最高提升53倍。

新智元
技术分析类文章7

Pingpong Schedule并不是万能钥匙

SGLang社区开发者反馈,SM90 FP8 Blockwise Scaling Grouped GEMM从H20迁移至H800后性能下降。文章分析是Pingpong调度策略所致,因算力提升,其使TensorCore未充分利用、TMA效率低,建议用Cooperative策略。

GiantPandaLLM
新闻资讯7

H-1B签证折磨10年,前微软科学家用AI「掀桌」

美国签证体系成本高、周期长、透明度低,前微软科学家Priyanka Kulkarni创办Casium,用AI改造签证服务,把材料准备时间大幅缩短,近期获500万美元种子轮融资。新规下,其服务更显重要。

新智元