「CUDA Graph」共找到 122 篇相关文章
一文看懂英伟达的产品体系和命名规则
文章由小枣君撰写，详细梳理英伟达产品体系和命名规则，涵盖算力芯片、超级芯片、超级计算机平台等，介绍各层级产品特性，还提及通信技术、开发框架CUDA，助读者清晰了解英伟达产品。
英伟达不是被计划出来的
英伟达成全球首个市值破5万亿美元企业，打破企业体量天花板想象。其GPU起初为游戏而生，CUDA曾是失败项目，却因深度学习需求成AI关键。其崛起证明伟大难被计划，创新源于多元互动。
超越单文件代码生成：微软发布的ZeroRepo如何规划构建3.6万行大型软件？
微软等团队提出Repository Planning Graph（RPG），开发ZeroRepo框架，实现从零生成大规模代码库。RepoCraft基准实验显示，ZeroRepo功能覆盖率81.5%，代码近3.6万行，超现有基线，为AI驱动的软件工程开辟新路径。
让NCCL性能起飞的NCCL symmetric memory是啥黑科技？— part1
本文是NCCL 2.27新特性系列首篇，介绍symmetric memory。它类似NVSHMEM，现仅支持单节点通信，未来将支持跨节点。其低延迟内核能提升小数据通信性能，还介绍使用示例、CUDA内存管理及Symmetric Memory实现等内容。
深度拆解沐曦MXMACA软件栈功能，算力自主+生态兼容，破解国产GPU落地难题
近日，刚 IPO 的沐曦股份发布 MXMACA 软件栈 3.3.0.X 版本。该软件栈可实现多语言支持、算子自动优化与跨框架平滑适配，能让现有 CUDA 项目近乎‘开箱即用’迁移，还兼容主流 AI 框架，助力国产 GPU 解决落地难题。
黄仁勋 × Lex Fridman：NVIDIA 4 万亿市值背后的 AI 革命
黄仁勋与Lex Fridman进行两小时访谈，从Amdahl定律聊到人类意识。谈及NVIDIA发展，如CUDA决策致市值下跌后回升；提出AI扩展定律，认为智能由算力决定；还分享管理、技术预判等看法及对中国创新的评价。
9.7K Star 把 AI 编码的 token 消耗砍了 16 倍
当前AI编码工具默认读取整个项目文件，token消耗高。code-review-graph项目用Tree-sitter解析代码库成图，追踪改动“爆炸半径”，平均省8.2倍token，技术轻量，还能做社区检测。它揭示AI编码瓶颈在信息输入质量。
SGLang Custom AllReduce v1 与 v2 实现原理详解
文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。
信息量极大！黄仁勋最新论断：AGI已实现，OpenClaw是AI界iPhone，未来将有10亿程序员
黄仁勋与Lex Fridman深度对谈，分享英伟达发展历程、管理方式、技术趋势等见解。他认为AGI已实现，OpenClaw是Token时代的iPhone，未来将有10亿程序员。还探讨了算力瓶颈、供应链、电力等问题。