「千卡 GPU 集群」共找到 513 篇相关文章

推荐文章7

GPU到底是如何工作的?这篇AI Infra入门全部告诉你

本文详细介绍了GPU工作原理及编程模式。它从图形渲染发展到GPGPU,NVIDIA推动其通用计算。还阐述了CPU/GPU异构架构,对比二者性能,介绍编译、加载、启动过程,以及GPU硬件架构、编程与执行模型,分析SIMD和SIMT。

腾讯技术工程
新闻资讯7

马斯克22万张GPU救场后,Claude勉强恢复“三个月前体验”,Gary Marcus却警告:GPU将严重过剩,很快不值钱

当地时间5月6日,Anthropic宣布用SpaceX算力,提升Claude服务能力。此前其算力紧缺致口碑下滑,此次合作让Claude恢复到3个月前体验。同时,纽约大学学者警告GPU将过剩,而Anthropic发新功能争企业客户。

InfoQ
新闻资讯7

万卡时代,企业需要怎样的算力集群?

过去两年,AI算力需求跃升,消耗从训练主导转向推理驱动。企业算力需求有突发性等特点,智算集群是关键方案。InfoQ联合腾讯云发起直播探讨,还介绍了算力供给缺口、集群构建交付、性能优化及演进方向。

InfoQ
推荐文章7

一文读懂:GPU到底是怎么工作的?

文章详细介绍GPU工作原理,对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题,还分析FLOPS、延迟、内存等因素对性能的影响,最后讲了GPU通过多线程和超量订阅获高吞吐量。

芯师爷
推荐文章7

小白也能秒懂:趣解GPU各种核心参数规格!

近期美国升级对英伟达H20芯片出口管制,业内震动。文章介绍GPU和显卡区别,讲解GPU关键参数如算力、核心数量等含义,还通过货车、火车类比助小白理解,助读者选合适GPU。

芯师爷
推荐文章7

Nvidia GPU深度解析

文章深度解析Nvidia的B30A(传闻)、HGX H20、H100、B200和B300(Ultra)五款GPU,从架构、性能、内存、封装工艺和应用场景等方面对比差异,助读者选合适GPU。

芯师爷
新闻资讯7

被传GPU部门被中芯国际收购,Imagination:消息不实

近期市场传中芯国际拟收购Imagination GPU部门,该公司昨晚声明辟谣,称未与任何公司就出售GPU IP业务达成协议,保持独立运营,GPU业务稳健,还将追究散布虚假信息者法律责任。

芯师爷
产品应用8

GPU利用率不到15%,AI产业最大的浪费正在被这家公司改写|甲子光年

AI产业发展中算力成本高、利用率低问题凸显。趋动科技押注‘软件定义GPU’,试图把独占GPU变为共享算力池,其产品使客户GPU利用率平均提升约4倍,已服务超200家头部客户。

甲子光年
新闻资讯7

Meta 即将上线全球最大算力集群

小扎在算力投入上毫不手软,Meta 即将上线全球首个 1GW+ 能耗的超级计算机机群,还在新建 Hyperion 算力集群,几年内功耗将达 5GW,远超老马 30 万张卡集群的 200 - 300 兆瓦。

歸藏的AI工具箱
新闻资讯7

谁押中了「国产GPU四小龙」?

今年10月英伟达因出口管制退出中国市场,国产GPU厂商迎来「上市潮」。「国产GPU四小龙」燧原科技、壁仞科技、摩尔线程和沐曦股份受关注,本文梳理其投资情况,涉及早期伯乐、各方投资意图及上市前景等。

芯师爷