GPU算力」共找到 1072 篇相关文章

新闻资讯8

别盯着GPU了,CPU正成为AI时代的“新瓶颈”

进入2026年,AI系统性能越来越取决于执行与调度能力,CPU正成为AI时代的“新瓶颈”。目前CPU市场供应紧张,英特尔、AMD、英伟达等大厂应对策略各有不同,智能体时代算力天平正回摆。

芯师爷
推荐文章8

Kernel Design Agent(KDA) 的B200 GPU Kernel 编程准则 Skill

文章围绕 Kernel Design Agent(KDA) 的 B200 GPU Kernel 编程展开,介绍目标平台、架构参数,阐述独有特性与编程要点,给出关键性能准则调整方向,详述 16 条准则及特殊 Kernel 类型优化策略和编写前检查清单。

GiantPandaLLM
推荐文章8

CUDA-MODE第77课课程笔记:用于GPU kernels的DSL

该课程笔记由Tri Dao介绍GPU kernel开发的DSL生态,涵盖PyTorch、Triton、Cute - DSL等。提出计算效率评估公式,对比不同DSL在Softmax、GEMM等操作的性能。还提及其他DSL工具与Triton扩展项目,并给出使用建议。

GiantPandaLLM
新闻资讯7

大型挂机现场:马斯克的55万英伟达GPU,利用率才11%

《The Information》报道,马斯克旗下xAI有55万英伟达GPU,利用率仅11%。原因包括大规模部署协调难、数据传输瓶颈和训练间歇性。这是行业普遍问题,xAI着手解决,设定50%利用率目标。

机器之心
开源动态8

最小模型仅 25MB,老设备无 GPU 也能流畅跑!

开源项目`KittenTTS`是文本转语音模型系列,核心特点是“小身材,大能量”。最小模型约1500万参数,体积25MB以内,无需GPU,靠CPU就能实现高质量语音合成,适合多种设备和场景。

开源先锋
算法论文8

CVPR 2025 | 解决XR算力瓶颈,FovealSeg框架实现毫秒级IOI分割

来自纽约大学和Meta Reality Labs的联合研究提出Foveated Instance Segmentation新方法。FovealSeg框架结合眼动追踪,能解决XR算力瓶颈,实现毫秒级IOI分割,在多数据集测试中速度与精度双赢。

机器之心
新闻资讯8

市值3055亿!摩尔线程敲钟,国产通用GPU第一股来了

国产通用GPU第一股摩尔线程今日敲钟上市,开盘价650元,较发行价高出469%,开盘市值超3055亿元。它88天过会创科创板纪录,将募资用于研发,收入结构转向AI智算领域。

量子位
开源动态7

GPU-MODE Leaderboards之vector_add histogram 以及一些有趣发现

文章介绍GPU-MODE Leaderboards中vector_add和histogram任务。分析vector_add实现、带宽利用率,rank1代码用cccl,带宽利用率超80%;histogram算子瓶颈在atomic冲突等,rank1也多用cccl,还给出rank2代码,最后提及任务中Hack行为及代码提交方式。

GiantPandaLLM
新闻资讯8

马斯克狂烧14万亿,5000万H100算力五年上线!终极爆冲数十亿

马斯克宣布5年内实现5000万张H100的算力,成本超2万亿美元。他已有Colossus超算集群,Grok系列模型也展现强大实力。目前Colossus 2在分批落地,供电采取多元化措施。

新智元
推荐文章8

解决算力瓶颈,给多模态瘦身!Token压缩完整图谱与选型指南

给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余,提升训练与推理效率。北大等团队剖析其全貌,给出完整图谱与选型指南,还揭示了未来演进路径。

AIGC开放社区