「CPU利用率」共找到 122 篇相关文章
如何为 GPU 提供充足存储：AI 训练中的存储性能与扩展性
文章通过分析 MLPerf Storage v2.0 测试结果，探讨不同存储系统在大规模 AI 训练中的表现。介绍三类训练负载及新的 Checkpointing 负载，分析共享文件系统类别，给出比较视角，解读各负载测试结果并总结选型要点。
专访｜两位华人主导创办，Jeff Dean参投，伯克利开源项目SkyPilot转型初创
前沿模型团队算力瓶颈从不足变为分散，开源AI算力调度项目SkyPilot应运而生。7月末，它从高校走出成为初创公司，完成2000万美元种子轮融资。其免费版与商业版各有侧重，切入AI编排赛道潜力大。
网易游戏 Tmax 平台实践：基于 Fluid 的云原生 AI 大模型推理加速架构
网易游戏打造 Tmax AI 机器学习平台，但大模型推理业务规模爆发带来资源弹性等挑战。经评估，选用 Fluid + AlluxioRuntime 构建三层架构，有自动预热等配置，带来性能、成本等多方面收益。
剧情反转！马斯克牵手 Dario，Anthropic 与 SpaceX 罕见合作
Anthropic官宣与马斯克的SpaceX合作，将使用其超算集群全部算力。因Claude火爆致宕机，Anthropic急需算力。其估值疯涨，而SpaceX闲置算力出租也符合商业逻辑，马斯克还对Anthropic团队表示认可。
同一模型便宜50%，API Hub靠什么赚钱？
文章探讨大模型API Hub低价卖Token现象，指出低价出售的常是闲置算力等。分析厂商不官网降价原因，介绍第三方低价来源及Hub盈利途径，给出判断低价Hub能否用的检查清单。
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
华为开源突破性技术Flex:ai，AI算力效率直升30%，GPU、NPU一起用
11月21日，华为发布AI容器技术Flex:ai并联合高校将其开源。该技术基于Kubernetes构建，有三大核心突破，能提升算力利用率，异构兼容性优于Run:ai，将推动国产算力应用。
新手入门 | 搭建 AI 模型开发环境
文章为新手提供AI模型开发环境搭建方法，涵盖安装显卡驱动、CUDA、cuDNN、Miniconda、PyTorch、Transformers等，还介绍用Modelscope下载加载模型、PyCharm配置及解决常见问题。
个人电脑也能进行智能体RL训练？尤佳轩团队开源OpenTinker
伊利诺伊大学厄巴纳 - 香槟分校尤佳轩团队开源OpenTinker，这是全新‘强化学习即服务’系统。它通过解耦架构和友好API，让开发者在不同算力设备启动智能体训练，解决传统RL框架难题，指明下一代智能体基建方向。