「CUDA kernel」共找到 126 篇相关文章
算力十年狂飙100000倍,他却每天担心破产!黄仁勋亲述:如何用“30天危机感”逆袭万亿AI市场
英伟达推出 CUDA Toolkit 13.1,带来 Tile 编程等多项变革。CEO 黄仁勋有强烈危机感,回顾创业阶段。访谈中他谈 AI 发展、意识、工作影响等,认为技术竞赛重要,AI 融入生活但不会有真正意识。
英伟达联手QCI搞大事:量子应用能在真机前先模拟纠错
量子电路(QCI)公司联合NVIDIA,将CUDA - Q编程能力集成到Aqumen软件套件。QCI的双轨量子比特设计易纠错,有检测、控制流、处理错误三大功能。二者结合能让开发者在真机前模拟纠错,加速量子计算商业化。
32B逆袭GPT-5.2:首个端到端GPU编程智能体框架StitchCUDA问世
现有LLM自动化CUDA方法难处理端到端GPU程序,StitchCUDA提出多智能体框架+基于Rubric Reward的Agentic RL方案,分解任务、优化训练,在实验中成功率和加速比远超其他方法,解决Reward Hacking问题。
梳理SGLang中DP Attention及其Padding问题
作者梳理SGLang中DP Attention及其Padding问题。介绍DP Attention背景、流程,指出padding分max和sum模式,旧版sum padding浪费计算、影响cuda graph使用,v0.4.10后有优化,max padding仍待完善。
“客户测950,不到一周下单了”,DeepSeek V4 逼出昇腾真功夫
昇腾计算业务副总裁张良透露昇腾近期销量好、认可度提高,大量客户基于其做训练。DeepSeek V4 考验昇腾,其超节点产品均支持。昇腾还对芯片体系和软件栈升级,拒绝仿 CUDA,坚持自主构建生态。
努力的黄仁勋,能守住4万亿吗?
黄仁勋今年第三次访华,期间英伟达H20芯片对华出口通道再次打开。此前美国制裁使英伟达中国业务停滞,计提损失。中国市场对英伟达重要,但其特供芯片面临国产替代竞争,CUDA生态也受挑战。
142 TFLOPS 的差距:为什么在 Blackwell 上 FP4 MoE 算子工程至关重要
文章对三种主流MoE后端在Blackwell B200 GPU上做基准测试,发现SGLang与vLLM有142 TFLOPS差距,小batch时SGLang快1.84×。差异源于kernel融合、面向Blackwell的CUTLASS schedule及自适应grid sizing等优化。
一文看懂英伟达的产品体系和命名规则
文章由小枣君撰写,详细梳理英伟达产品体系和命名规则,涵盖算力芯片、超级芯片、超级计算机平台等,介绍各层级产品特性,还提及通信技术、开发框架CUDA,助读者清晰了解英伟达产品。
英伟达不是被计划出来的
英伟达成全球首个市值破5万亿美元企业,打破企业体量天花板想象。其GPU起初为游戏而生,CUDA曾是失败项目,却因深度学习需求成AI关键。其崛起证明伟大难被计划,创新源于多元互动。
TileLang深入详解-第二章-TileLang 核心编程抽象
文章深入解析TileLang核心编程抽象,介绍写kernel的方式,阐述TileLang三层抽象特点及适用场景,展示JIT工作流、接口和执行后端,还提及性能优化、基准测试、正确性校验,最后用GEMM示例对比三层抽象差异并给出使用建议。