「CUDA内核」共找到 171 篇相关文章
黄仁勋 × Lex Fridman：NVIDIA 4 万亿市值背后的 AI 革命
黄仁勋与Lex Fridman进行两小时访谈，从Amdahl定律聊到人类意识。谈及NVIDIA发展，如CUDA决策致市值下跌后回升；提出AI扩展定律，认为智能由算力决定；还分享管理、技术预判等看法及对中国创新的评价。
活久见！连Linux之父等“顽固派”大佬，都在用AI编程了
生成式AI席卷软件行业，曾对AI编程嗤之以鼻的编程界大佬态度转变。如Linux之父Linus、Redis之父antirez开始用AI编程，Java之父James虽质疑但也认可其实用价值。不过，Vibe Coding不适用于Linux内核开发。
一条SQL管理向量全生命周期，让AI应用开发更简单
在大模型驱动的AI浪潮中，向量在AI应用开发中至关重要，但开发者面临技术栈分裂等隐形成本。PolarDB IMCI提出解决方案，在数据库内核集成向量索引与Embedding能力，用一条SQL管理向量全生命周期，降低开发和维护门槛。
Agent 工程师绕不开的必修课：API 网关 vs API 管理
文章探讨了 API 网关与 API 管理的起源发展、关键差异、协同工作及未来趋势。API 网关从流量网关演进到 AI 网关，API 管理从文档化走向商业化。两者差异源于起点、使用角色和技术内核不同，未来将向 AI 网关和 MCP Server 管理演进。
新瓶旧酒or涅槃重生？操作系统的 AI 进化终将走向何方？
本文基于「AI 进化论：智算时代 OS 的破局之路」直播实录，解码 AI 时代 OS 破局之道。探讨国内外 OS 的 AI 进化差异、内核价值重构、技术跃迁、算力适配等，还提及未来趋势、Agent 生态挑战及 OS 进化关键。
算力稀缺时代，如何把 GPU 用“满”
在 GPU 稀缺且利用率低的背景下，本文分析其‘用不好’的原因，探讨业界共享技术方案的局限。以腾讯云 TencentOS qGPU 为例，解析内核态虚拟化及在离线混部技术，还介绍其在多行业降本增效的实践。
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。
教你构建私有 AI Coding 平台：Pi、DSH、Codex Harness 扩展能力对比与选型。
文章聚焦构建私有AI Coding平台，对比Pi、DeepSeek Harness、Codex Harness的架构、扩展能力及选型策略。介绍三者交互集成方式，分析其扩展特点，并为不同需求团队给出选择建议。
PDL 在 SGLang Kimi K3 中的应用
文章介绍 PDL 在 SGLang Kimi K3 中的应用，K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题，阐述计算链和通信链上的应用，还提及性能数据和实现问题。