「CUDA kernel」共找到 126 篇相关文章
【博客转载】CUDA Local Memory
文章围绕CUDA本地内存展开，介绍其为线程私有存储空间，访问特性与全局内存类似。通过两个计算滑动平均值的CUDA kernel示例，展示数组索引复杂度对存储位置的影响，还给出判断存储位置的方法及优化建议。
【博客转载】CUDA Shared Memory Swizzling
文章讨论用swizzling技术处理CUDA共享内存bank冲突，它可重排索引映射避免冲突且不浪费内存。以矩阵转置为例，对比有冲突、填充、swizzling三种实现，还分析了swizzling和填充优缺点。
基于一个MXFP8量化Kernel谈一谈如何在B200上实现高性能的Memory Bound Kernel
作者向SGLang社区提交基于CUTLASS的MXFP8 Blockscaled Grouped GEMM实现，其中包含量化Kernel。文章关注此Kernel，介绍在B200上实现高性能Memory Bound Kernel的优化技术，如整体设计、向量化与合并访问、Occupancy优化、TMA利用等。
开源模型首超Opus4.6！智谱GLM-5.1登场，14小时后CUDA专家被冲了
智谱开源模型GLM - 5.1带来重大突破，14小时完成CUDA Kernel优化，加速比大幅提升。它解锁与顶尖闭源模型Claude Opus 4.6全面对齐，在多测试中表现优异，展现长程任务能力，改写行业叙事逻辑。
SGLang 中的 CUDA Graph 进阶指南
本文介绍 SGLang 构建 CUDA Graph 支持及改动。如 Runner/Backend 解耦与灵活组合；首创 Breakable CUDA Graph 并开源，能提高捕获灵活性；还实现 Prefill 的 Full CUDA Graph，同时介绍显存管理方法。
了解下 FlashInfer SKILLS 写法
文章介绍 FlashInfer 的三个 SKILL 文件，涉及调试、性能测试、添加新 kernel 等开发场景。如通过装饰器做 CUDA 调试，提供两种计时方式做性能测试，还给出添加新 kernel 的 10 步流程及最终文件清单，实用价值高。
英伟达自毁CUDA门槛！15行Python写GPU内核，性能匹敌200行C++
英伟达发布CUDA 13.1，称是自2006年诞生以来最大进步。推出CUDA Tile编程模型，能用15行Python代码实现200行CUDA C++代码性能。芯片界传奇Jim Keller质疑其会终结CUDA“护城河”。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
简单了解下CUDA Green Context
文章基于Flashinfer实现介绍CUDA Green Context，它在CUDA 12.0+引入，能实现资源隔离、降低多线程性能损失、提高GPU使用率。还给出使用方法及代码示例，不过测试性能未达预期，需关注后续发展。
英伟达亲手终结CUDA「护城河」？传奇芯片架构师引发争议
英伟达CUDA宣布20年来最重大更新，引入CUDA Tile技术，降低开发门槛。芯片界传奇人物Jim Keller质疑此次更新是否终结CUDA「护城河」，文章分析了相关问题，指出瓦片架构对英伟达内外移植性的不同影响。