产品应用7

ncu计算L20 GPU指令延迟有误致性能指标异常

GiantPandaLLM2025-08-15

AI 摘要

作者分析L20 GPU上Batched GEMM Kernel性能问题，发现Tensor Pipe Utilization异常。经研究，ncu用错指令执行延迟算指标。建议分析GEMM Kernel先看Roofline模型，按流程分析。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Pingpong调度策略在新GPU上性能不佳

SGLang社区开发者反馈，SM90 FP8 Blockwise Scaling Grouped GEMM从H20迁移至H800后性能下降。文章分析是Pingpong调度策略所致，因算力提升，其使TensorCore未充分利用、TMA效率低，建议用Cooperative策略。

本文围绕NVIDIA Docker CUDA兼容性及Nsight Compute展开。指出使用NVIDIA NGC CUDA Docker容器时，要保证宿主机CUDA驱动与容器内运行时库版本一致，否则会有问题。还介绍了在Docker中安装和使用Nsight Compute的方法及示例。

本文针对企业AI工具碎片化、员工沦为Agent间搬运工的痛点，对刚GA发布的亚马逊云科技Amazon Quick做一手实测，分析其核心能力与壁垒，判断企业级Agent发展趋势。

本文深度拆解Google发布的Gemini 3.8 Live，分析其将语音、推理、工具调用整合进持续运行链路的架构创新，探讨Voice Agent进入Runtime阶段的核心技术挑战与未来AI Agent发展趋势。