「带宽利用率」共找到 81 篇相关文章
GPU-MODE Leaderboards之vector_add histogram 以及一些有趣发现
文章介绍GPU-MODE Leaderboards中vector_add和histogram任务。分析vector_add实现、带宽利用率，rank1代码用cccl，带宽利用率超80%；histogram算子瓶颈在atomic冲突等，rank1也多用cccl，还给出rank2代码，最后提及任务中Hack行为及代码提交方式。
GPU利用率不到15%，AI产业最大的浪费正在被这家公司改写｜甲子光年
AI产业发展中算力成本高、利用率低问题凸显。趋动科技押注‘软件定义GPU’，试图把独占GPU变为共享算力池，其产品使客户GPU利用率平均提升约4倍，已服务超200家头部客户。
大型挂机现场：马斯克的55万英伟达GPU，利用率才11%
《The Information》报道，马斯克旗下xAI有55万英伟达GPU，利用率仅11%。原因包括大规模部署协调难、数据传输瓶颈和训练间歇性。这是行业普遍问题，xAI着手解决，设定50%利用率目标。
首篇潜空间推理综述！模型思考不必依赖Token，带宽暴增2700+倍
史上首篇潜空间推理综述全面总结新兴推理范式，分析循环、递归等推理形式并总结成框架。潜空间推理用潜式思维链，带宽比显式CoT提升2700多倍，还介绍无限深度推理实现途径。
告别「利用率崩溃」：GIPO开启大模型强化学习高效训练新方法 | ICML 2026
树根科技与三一集团团队联合提出 GIPO 算法，在机器人操控及大语言/视觉动作模型强化学习训练中，缓解了策略滞后痛点，改善了 PPO 硬截断引发的‘利用率崩溃’问题。介绍了 GIPO 算法原理、优势及实验结果。
【博客转载】CUDA Vectorized Memory Access （文末送书）
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽，实现朴素自定义设备内存拷贝函数，对比不同数据类型、大小及方法的性能，得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
全新GPU高速互联设计，为大模型训练降本增效！北大/阶跃/曦智提出新一代高带宽域架构
随着大模型参数规模扩大，分布式训练成关键路径，高带宽域设计对提升训练效率至关重要。现有HBD架构在可扩展性、成本和容错能力等方面有局限，北大、阶跃、曦智团队提出InfiniteHBD架构解决问题。
安谋科技发布“周易”X3，一场“中庸”的突围 | 甲子光年
11月13日安谋科技发布“周易”X3 NPU IP，专为端侧AI打造。当前端侧AI市场不确定大，芯片设计难平衡专用与通用。“周易”X3采用DSP+DSA融合架构，转向混合浮点，提升带宽，搭配开放软件平台，在多方面找到平衡。
在校生开发，榨干 win 系统全部带宽！
介绍在校生开发的开源工具 HypoMux，它面向 Windows，能把多张网卡「绑」在一起，让下载任务多线路并行。有双模式可选，还能智能分流，兼容主流加速器。操作简便，可解决下载慢问题。
本地部署Qwen 3.8 27B，要用什么配置
Qwen 3.8 27B是性能好、体积小的开源模型，个人也能本地部署。本地跑开源大模型，重点看容量和带宽两个指标，还介绍了Mac、RTX 5090、RTX PRO 6000三种部署方案及优缺点。