「CUDA kernel」共找到 126 篇相关文章
天下苦CUDA久矣，又一国产方案上桌了
AI开发中，国产硬件增多，但开发者仍依赖进口生态。KernelCAT作为国产AI Agent应运而生，它能开发高性能算子，在昇腾芯片测试中表现出色，还能助力模型在国产平台高效迁移，限时免费内测。
谷歌430万颗TPU暴击CUDA护城河！Meta「割肉」助攻
Global Semi Research研究显示，2026年谷歌TPU总产能将达430万颗，主要因Meta释放CoWoS产能及台积电扩充产能。这显示谷歌欲降低成本、挑战英伟达，也预示AI巨头重塑算力格局。
【CUDA 博客】使用PTX指令更高效地加载和存储矩阵
文章围绕使用PTX指令高效加载和存储矩阵展开，介绍`ldmatrix`和`stmatrix`指令格式、适用GPU版本、地址计算逻辑等，给出不同矩阵数量的实现代码示例，助读者理解和应用。
【CUDA博客】关于TensorCore和Inline PTX Assembly的一个超简短笔记
文章围绕TensorCore和Inline PTX Assembly展开，介绍利用PTX指令发挥TensorCore潜力。讲述矩阵乘法和累加操作，给出半精度及替代浮点指令形式，有代码示例并分析，还提到不同数据类型用法及SASS指令。
写Verilog、调CUDA，总翻车？工业代码大模型开始学会「先想后写」了
工业代码大模型缺的往往是‘想’的能力。北航联合多家单位提出的InCoder - 32B Thinking，让模型结合工业环境思考，通过ECoT从错误中学习，用ICWM提前预判结果，还能自适应思考深度，且模型与代码已开源。
微软发布 Agent 安全框架 MAF
微软发布 Agent 安全框架 MAF，它是 AutoGen + Semantic Kernel 的统一继任者。有三层中间件，对 MCP 采样默认拒绝，还加了工具审批中间件，编排用图模型，为生产环境安全治理设计。
新手入门 | 搭建 AI 模型开发环境
文章为新手提供AI模型开发环境搭建方法，涵盖安装显卡驱动、CUDA、cuDNN、Miniconda、PyTorch、Transformers等，还介绍用Modelscope下载加载模型、PyCharm配置及解决常见问题。
记录下SGLang 开发，编译和Profile的几个小技巧
作者记录在SGLang开源一年学到的开发和Profile技巧。包括解决perfetto可视化PyTorch Profiler结果时kernel丢失问题、PR切换分支方法，还介绍让SGLang无视版本运行以定位bug的方法。
谷歌训出Gemini 3的TPU，已成老黄心腹大患！Meta已倒戈
谷歌酝酿TPU@Premises计划，允许客户将TPU搬进自家数据中心，首个目标是Meta。谷歌Ironwood TPU v7与英伟达B200性能相当，还拥抱PyTorch拆解CUDA壁垒，欲夺英伟达10%市场份额。
黄仁勋 GTC 2026 演讲实录：所有SaaS公司都将消失；Token成本全球最低；“龙虾”创造了历史；Feynman 架构已在路上
北京时间 2026 年 3 月 17 日，英伟达 CEO 黄仁勋在 GTC 演讲，介绍一整套 AI“全家桶”。回顾 CUDA 20 年，提及数据处理新软件库，还展示 Vera Rubin 平台等，预测 SaaS 公司将消失，英伟达 2027 年营收或达万亿美元。