H800 GPU」共找到 533 篇相关文章

产品应用8

Meta「轻量级」KernelLLM颠覆GPU内核生成,8B参数碾压GPT-4o

Meta推出基于Llama 3.1微调的8B参数KernelLLM,能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3,多次生成得分更高,让内核开发更易上手。

新智元
新闻资讯8

老黄All in物理AI!最新GPU性能5倍提升,还砸掉了智驾门槛

英伟达CEO黄仁勋在CES 2026发布AI新品,全力搞AI。推出下一代Rubin架构GPU,性能大幅提升;发布五大领域成果,含新模型家族、平台等;还开源训练框架与多模态数据集,国产开源模型被提及。

量子位
开源动态8

马斯克开源新模型:能实时抓取社交平台数据,20万块H100训练

马斯克旗下xAI开源去年最佳模型Grok - 2.5,6个月内还将开源旗舰模型Grok 3。Grok - 2.5可实时抓取社交平台X数据,用超20万块H100训练,性能超GPT - 4o等,应用场景广泛。

AIGC开放社区
新闻资讯7

英伟达正为中国开发新AI芯片,比H20更强

路透社消息称英伟达正为中国开发基于Blackwell架构的AI芯片B30A,性能超H20。虽特朗普称可能允许销售,但美监管批准未确定。英伟达想下月交付样品,中美贸易中芯片供应是焦点。

AIGC开放社区
开源动态8

单机H200最快DeepSeek V3和R1推理系统优化秘籍

作者从开源技术分享角度,盘点SGLang对单机规模推理的大量工程优化技巧,涉及FP8 Block GEMM演进、FusedMoE模块优化、Attention Backend优化等,助于提升DeepSeek V3/R1在单机H200上的推理性能。

GiantPandaLLM
新闻资讯7

硅谷GPU蒙尘,马斯克一言成谶:美国AI被电卡脖子

彭博社消息,加州圣克拉拉两处数据中心空置6年多等电力,凸显美国科技行业缺电问题。此前微软纳德拉承认缺电致GPU吃灰,马斯克也曾预言芯片或超供电能力。电力短缺制约数据中心发展,影响美国AI前进。

新智元
开源动态8

无需CUDA代码给H100加速33%-50%,Flash Attention作者新作火了

Flash Attention、Mamba作者之一Tri Dao与普林斯顿博士生提出QuACK库,用Python写,无需CUDA C++。在H100上比优化库快33%-50%,吸引英伟达、PyTorch团队关注。还给出优化torch.compile建议。

量子位
新闻资讯8

英伟达,全球首个5万亿美元公司诞生!「GPU帝国」超日本德国GDP

英伟达市值突破5万亿美元,成全球首家达此里程碑公司,超德国和日本GDP。黄仁勋预计2026年GPU销售额达5000亿美元。GTC大会围绕‘AI工厂’展开,英伟达在多领域布局,搭建庞大AI帝国。

新智元
新闻资讯8

英伟达下一代GPU登场,Rubin CPX一次推理数百万Token,网友:这是头野兽

在周二的AI基础设施峰会上,英伟达宣布推出专为超100万token长上下文推理设计的Rubin CPX GPU。它将与其他产品组成新平台,性能卓越,还能复用现有平台,预计2026年底上市。

机器之心
新闻资讯7

「国产GPU第一股」首秀!新架构下周揭秘,全栈底座不藏了

2025年12月19 - 20日,摩尔线程首届MUSA开发者大会将在北京举行。届时会揭晓新一代GPU架构与路线图,设20+技术专场,还有1000㎡科技嘉年华,展示全栈能力与生态进展。

新智元