「CUDA内核」共找到 171 篇相关文章
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践,涉及GPT - OSS、DeepSeek - V3等模型,采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术,在性能提升、减少延迟等方面效果显著。
如何构建企业级数据智能体:Data Agent 开发实践
本文介绍DMS的数据分析智能体Data Agent,它从实验室走向企业生产一线,革新数据分析范式。文中剖析构建要点,对比与传统BI、高级分析差异,阐述技术内核优化及企业级能力,为开发实践提供参考。
ChatGPT最强网络安全模型,逼谷歌紧急修漏洞!
OpenAI推出安全专用模型GPT-5.6-Cyber,用于处理信息安全任务。它战绩斐然,发现诸多内核漏洞。Daybreak计划为安全人员提供工具。该模型虽有不足,但展现出强大的网络安全能力。
Google Antigravity推出终端沙盒:AI助手终于不会乱删文件了
Google Antigravity推出终端沙盒功能,用内核级隔离技术限制AI代理终端命令在项目工作目录内,解决其误操作系统文件问题。该功能在macOS实现,Linux支持将到,用户反馈有好有坏。
黄仁勋 GTC 2026 演讲实录:所有SaaS公司都将消失;Token成本全球最低;“龙虾”创造了历史;Feynman 架构已在路上
北京时间 2026 年 3 月 17 日,英伟达 CEO 黄仁勋在 GTC 演讲,介绍一整套 AI“全家桶”。回顾 CUDA 20 年,提及数据处理新软件库,还展示 Vera Rubin 平台等,预测 SaaS 公司将消失,英伟达 2027 年营收或达万亿美元。
当 GPU 成为主角:解锁 AI 集群中那 85% 的闲置 CPU 算力
全球AI算力规模增长,GPU成主角,但GPU满负荷运转时CPU利用率低,传统调度机制无法保障优先级,造成资源浪费。TencentOS如意(RUE)的在离线混部技术改造Linux内核调度体系,高效释放算力。
救命! Canvas?3.1k Star Mind Elixir ,真丝滑!!!!
Mind Elixir是可嵌入的JavaScript脑图内核,零依赖、框架无关。它能将JSON数据变成可交互节点,有拖拽、编辑等功能。适合知识库等场景,不适合只需不可编辑宣传图等场景。
国产GPU芯动科技发布最新芯片,单卡直接堆上了112GB以上的超大显存
9月22日,芯动科技在珠海正式发布“风华3号”全功能GPU,它有诸多亮点,如集成国产RISC - V CPU与兼容CUDA的GPU、原生支持DICOM显示等,还构建了国产GPU完整生态。
黄仁勋 GTC 2026 演讲实录:所有SaaS公司都将消失;Token成本全球最低;“龙虾”创造了历史;Feynman 架构已在路上
北京时间2026年3月17日,英伟达CEO黄仁勋在GTC演讲,展示AI“全家桶”。他回溯CUDA 20年,介绍数据处理新软件库,还提及AI原生企业爆发、Token成本优势、Vera Rubin平台等,强调英伟达在AI领域的全面布局。
迈向可编程观测:在GPU Kernel中构建类eBPF风格的性能探针
文章从CUDA基础讲起,以矩阵乘法为例介绍性能调优,再到PTX汇编知识,最后引入Neutrino框架构建可编程GPU性能探针。展示了GPU Kernel性能分析从宏观到微观的技术演进,提供新分析视角。