「CUDA Kernel」共找到 132 篇相关文章
PDL 在 SGLang Kimi K3 中的应用
文章介绍 PDL 在 SGLang Kimi K3 中的应用，K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题，阐述计算链和通信链上的应用，还提及性能数据和实现问题。
和一线研究员的闭门讨论：蒸馏变难后，下一步的重点是什么？
本文整理拾象邀请多家头部模型厂商一线AI研究员的线下闭门讨论，围绕大模型前沿方向分享业内共识与分歧，涵盖Computer Use、RSI、模型蒸馏、训练数据、数据生意等核心议题，干货密度高。
信息量极大！黄仁勋最新论断：AGI已实现，OpenClaw是AI界iPhone，未来将有10亿程序员
黄仁勋与Lex Fridman深度对谈，分享英伟达发展历程、管理方式、技术趋势等见解。他认为AGI已实现，OpenClaw是Token时代的iPhone，未来将有10亿程序员。还探讨了算力瓶颈、供应链、电力等问题。
智能体框架的选择：一文读懂9个主流AI智能体框架
文章深入探索截至2025年11月的9个主流AI智能体框架，阐述成熟AI框架核心要素，分析各框架优劣势、适用场景，助读者选适合团队和业务的框架。
联手诺基亚入局6G，老黄要制定全球标准！GTC最新演讲揭秘：「美国科技的未来」就靠这6张王牌
老黄在华盛顿 GTC 大会演讲，英伟达要和诺基亚合作干 6G，重新构筑世界通信系统。演讲涉及 6 大核心，包括利用物理人工智能和数字孪生技术重塑美国工业化等，还介绍了加速计算、AI 变革等多方面内容。
腾讯混元AI Infra核心技术重磅开源：推理吞吐提升30%！
腾讯混元AI Infra团队开源生产级高性能LLM推理核心算子库HPC-Ops，基于生产环境痛点开发，降低底层算子开发门槛，实现显著性能突破。在真实场景下，混元、DeepSeek模型推理QPM提升，单算子性能也超越主流算子库。
记录下SGLang 开发，debug的几个技巧第二弹
作者BBuf继上次分享后，又带来SGLang开发、debug新技巧。包括开启多线程加载模型权重，介绍SGLang Serve模型短期和长期崩溃的调试方法，还提及逐层NVTX Profiling、查看固定batch_size下Decoding性能等技巧。
谷歌AI的“心脏”长什么样？读懂TPU就够了
文章介绍了谷歌TPU的发展历程，从2015年为解决AI计算效率瓶颈自研，发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线，强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。
AI终端驱动下的芯片产业：新周期的起点与方向｜甲子引力X
在8月21日的投资大会上，六位半导体领域顶级投资人剖析AI时代芯片破局路。他们认为中国虽在核心制造与软件生态是“跟随者”，但贴近终端等构成独特优势，还探讨突破壁垒、应对困境之法及未来投资方向。
蚂蚁开源 x SGLang Meetup技术回放解读之基于CUTE DSL的通信计算重叠算子实践
文章是对蚂蚁开源x SGLang Meetup分享的回放解读，聚焦基于CuTe DSL的通信 - 计算重叠内核实践。探讨不同通信计算重叠方案，分析在Blackwell上做GEMM + AllReduce融合算子的优势，介绍multimem指令等，还提及接入模型执行路径和性能结果。