「CUDA Kernel优化」共找到 1354 篇相关文章
老黄喝豆汁「破防」背后，国产GPU正在填上CUDA护城河
老黄喝豆汁刷屏，但更值得关注的是国产GPU生态。摩尔线程发布会展示MUSA生态，实现全方面覆盖，从兼容到自进化，在云端、端侧应用出色，还打通全链路，且未用最强架构。
使用 Hugging Face 轻松构建并共享 ROCm 内核
自定义内核是高性能深度学习基础，但构建整合麻烦。Hugging Face的kernel - builder和kernels库可助轻松构建、分享自定义内核。本文聚焦构建ROCm兼容内核，展示构建、测试与分享步骤。
Andrej Karpathy 盛赞！斯坦福团队新作，让Llama-1B 实现毫秒级推理
斯坦福Hazy Research团队将开源模型Llama - 3.2 - 1B前向推理整合为“Megakernel”，把推理延迟大幅降低，显存带宽利用率显著提升。团队指出当前主流LLM推理系统在小batch、极低延迟场景下低效，提出Megakernel以重构执行方式。
字节Seed提出序贯策略优化方法，突破同传“质量-延迟”权衡问题
AI字幕质量和延迟难平衡是业界老问题。香港中文大学、字节跳动Seed和斯坦福大学研究团队提出序贯策略优化框架SeqPO - SiMT，在70亿参数规模实现SOTA，翻译质量媲美Qwen - 2.5 - 7B离线水平。
智能流体力学青年学者论坛第29讲：刘军博士——人工智能技术在工业产品设计中的应用
本报告重点介绍贝叶斯优化技术在工业气动设计产品设计上的应用，采用特定方法用于电动汽车暖通空调系统设计，以降低CFD成本。还简单介绍工业产品优化设计中另外两种成功方法。
别再手动百度了！让 AI 帮你“开挂”搜全网，效率 x10
随着DeepSearch问世，搜索模式正从传统网络搜索向智能体搜索转变。文章拆解Search Agent核心模块，围绕制定任务、搜索、优化、应用和评估分析，介绍各模块特点、架构及优化方向等。
下一代超算，GPU得配QPU：老黄要把量子计算机和GPU「焊」在一起了
在VivaTech 2025会上，黄仁勋发布面向量子计算的革命性平台CUDA - Q。回顾英伟达CUDA - X套件及关键库，强调量子计算“拐点”，描绘QPU与GPU协同蓝图，宣布算法堆栈在Grace Blackwell 200加速。
北大、蚂蚁三个维度解构高效隐私保护机器学习：前沿进展+发展方向
北大李萌课题组与蚂蚁集团研究者共同完成综述，从协议、模型和系统三个维度梳理隐私保护机器学习（PPML）领域，指出当前痛点，给出优化策略，还提出跨层级协同优化方向。
英伟达发布 Jet-Nemotron 系列小模型，理论最大加速比 56 倍
英伟达发布 Jet - Nemotron 系列小模型，在多项基准测试中表现出色，实现高吞吐量加速和高准确率。其训练采用 PostNAS 方案，对既有模型针对性优化，展示了在小模型优化上的可行技术路径。
RAG效果不佳？先别急着微调模型，这几个关键节点才是优化重点
文章深入探讨RAG技术实现与优化，指出其在AI应用开发中常被当黑盒，从文档分块、索引增强、编码、混合检索到重排序等关键环节解析，强调结合场景调优以提升召回与精确率。