GPU内核优化」共找到 1625 篇相关文章

产品应用8

老黄喝豆汁「破防」背后,国产GPU正在填上CUDA护城河

老黄喝豆汁刷屏,但更值得关注的是国产GPU生态。摩尔线程发布会展示MUSA生态,实现全方面覆盖,从兼容到自进化,在云端、端侧应用出色,还打通全链路,且未用最强架构。

新智元
算法论文8

字节Seed提出序贯策略优化方法,突破同传“质量-延迟”权衡问题

AI字幕质量和延迟难平衡是业界老问题。香港中文大学、字节跳动Seed和斯坦福大学研究团队提出序贯策略优化框架SeqPO - SiMT,在70亿参数规模实现SOTA,翻译质量媲美Qwen - 2.5 - 7B离线水平。

量子位
产品应用8

从日志学习到风洞验证:构建 GPU 集群的 AI Native 稳定性闭环

文章介绍了面向新引入GPU芯片稳定性验证的AI Native治理体系“算力风洞”。其通过厂商环境自动复刻等手段,将新芯片适配效率提升10倍以上。体系分认知、验证、进化三层,形成完整闭环,推动智算集群稳定性建设升级。

阿里云开发者
推荐文章7

智能流体力学青年学者论坛第29讲:刘军博士——人工智能技术在工业产品设计中的应用

本报告重点介绍贝叶斯优化技术在工业气动设计产品设计上的应用,采用特定方法用于电动汽车暖通空调系统设计,以降低CFD成本。还简单介绍工业产品优化设计中另外两种成功方法。

力学与人工智能
推荐文章7

别再手动百度了!让 AI 帮你“开挂”搜全网,效率 x10

随着DeepSearch问世,搜索模式正从传统网络搜索向智能体搜索转变。文章拆解Search Agent核心模块,围绕制定任务、搜索、优化、应用和评估分析,介绍各模块特点、架构及优化方向等。

CourseAI
开源动态8

国产GPU首获全球顶级推理框架「原生门票」:MUSA合入SGLang主线

近日,摩尔线程举办「SGLang × MUSA Meetup」,分享与 SGLang 社区及 MUSA 生态协同进展。其 MUSA 后端已加入 SGLang 官方支持体系,代码合入主线,还在多方面取得成果,众多开源项目核心维护者参与探讨国产 AI 算力。

机器之心
算法论文8

北大、蚂蚁三个维度解构高效隐私保护机器学习:前沿进展+发展方向

北大李萌课题组与蚂蚁集团研究者共同完成综述,从协议、模型和系统三个维度梳理隐私保护机器学习(PPML)领域,指出当前痛点,给出优化策略,还提出跨层级协同优化方向。

机器之心
算法论文8

英伟达发布 Jet-Nemotron 系列小模型,理论最大加速比 56 倍

英伟达发布 Jet - Nemotron 系列小模型,在多项基准测试中表现出色,实现高吞吐量加速和高准确率。其训练采用 PostNAS 方案,对既有模型针对性优化,展示了在小模型优化上的可行技术路径。

AI科技评论
推荐文章7

RAG效果不佳?先别急着微调模型,这几个关键节点才是优化重点

文章深入探讨RAG技术实现与优化,指出其在AI应用开发中常被当黑盒,从文档分块、索引增强、编码、混合检索到重排序等关键环节解析,强调结合场景调优以提升召回与精确率。

阿里云开发者
开源动态8

无需CUDA代码给H100加速33%-50%,Flash Attention作者新作火了

Flash Attention、Mamba作者之一Tri Dao与普林斯顿博士生提出QuACK库,用Python写,无需CUDA C++。在H100上比优化库快33%-50%,吸引英伟达、PyTorch团队关注。还给出优化torch.compile建议。

量子位