Nvidia H200」共找到 369 篇相关文章

新闻资讯7

现在整个AI投资逻辑都错了!微软CEO首次承认:成排的H100正在积灰,插不上电

微软CEO称AI行业投资逻辑有误,瓶颈已从芯片变为电力。微软大量H100因缺电力设施闲置,按芯片采购量为公司定价的模型是错的。真正赢家是早锁定电力协议的玩家,竞争护城河已改变。

AI寒武纪
8

超越英伟达B200!AMD最强AI芯:1.6倍大内存、大模型推理快30%,奥特曼都来站台

AMD发布最强AI芯片MI350X和MI355X,号称大模型推理比英伟达B200快30%,内存是其1.6倍。该系列本月初已批量出货,还发布ROCm 7软件栈。AMD还预告明年推MI400系列,由其与OpenAI联合研发。

量子位
开源动态8

妈妈再也不用担心延迟了!斯坦福手搓Llama超级内核,推理仅需0.00068秒

斯坦福Hazy实验室推出低延迟推理引擎「Megakernel」,将Llama - 1B前向传播融入单一GPU内核,H100上提速1.5倍,B200上每次推理仅0.00068秒,比vLLM快3.5倍。文章分析传统引擎问题并介绍Megakernel设计。

新智元
7

Dario Amodei 达沃斯最新暴论:中国AI从来没有赶上,2027年AI认知能力可能超越所有人类

Anthropic CEO Dario Amodei 在达沃斯访谈中称,AI 认知能力将在一两年内超人类。Anthropic 专注企业级应用,他认为中国 AI 未赶上美国,反对售华 H200 芯片,还谈及 AI 经济、社会影响及安全问题。

AI寒武纪
产品应用7

Cursor为Blackwell从零构建MXFP8内核,MoE层提速3.5倍,端到端训练提速1.5倍

Cursor团队从NVIDIAHopper H100s升级到Blackwell B200s后遇性能瓶颈,他们回归基础,从零重写MoE训练层,抛弃对现有CUDA库依赖,释放了Blackwell架构潜能,实现MoE层和端到端训练提速。

机器之心
产品应用7

已量产交付!芯桥半导体全栈国产GPU助推智算自主化

芯桥(北京)半导体成立于2025年3月,掌握核心自主知识产权,旗下Sinexus X200及Sinexus S200已量产,产品在多算力集群点亮。X200性能强、价格优,芯桥还提供全栈式解决方案。

芯师爷
推荐文章7

从零开始200行python代码实现LLM

文章从传统思路实现诗词生成器入手,介绍了词汇表、Bigram模型等概念,接着用Python和PyTorch实现了真正的Bigram模型,阐述模型、训练等内容,最后回顾成果,下一篇将基于此实现完整GPT。

OpenMMLab
新闻资讯7

The Batch: 930 | DeepSeek 放弃 Nvidia 转向华为

中国开源权重模型开发者 DeepSeek 在 DeepSeek-V4 最新更新中未给美国芯片厂商适配机会,却向华为提供预发布版。美国限制出口芯片反促中国发展本土芯片,该决定加深中美 AI 生态分裂。

DeeplearningAI
推荐文章7

200行python代码实现从Bigram模型到LLM

本文从`babygpt_v1.py`出发,逐步加入self-attention机制、position嵌入等,实现完整GPT。介绍Transformer结构,讲解位置编码、单头自注意力等机制的代码实现,还阐述后续层的用途、参数调整及训练效果,最后提及模型优化方向。

阿里云开发者
产品应用7

月费200刀的AI浏览器,Perplexity Comet的真实体验如何?

以AI搜索引擎著称的Perplexity推出Comet浏览器,自称「AI Agent原生」。它试图解决「理解」和「运用」信息的难题,通过Comet助手整合标签页,还具备代理执行能力。不过其发布策略和用户习惯问题带来挑战。

Founder Park