「GPU内存共享」共找到 732 篇相关文章

推荐文章8

GPU-MODE Leaderboards之nvfp4_gemv代码阅读

文章围绕GPU-MODE的nvfp4_gemv竞赛rank1代码展开,先介绍问题及官方baseline,后详细解读rank1代码,含数据加载、线程模型等,还剖析核心计算函数,最后总结代码在缓存控制、数据格式等方面的调优亮点。

GiantPandaLLM
开源动态7

Vercel发布skills 1.1.1:让Skills跨平台共享

Vercel发布skills 1.1.1命令行工具,解决AI助手技能发现和管理标准化问题。它打破技能孤岛,让技能跨27种AI助手共享。更新有交互式发现等功能,项目开源,使用方便,欲建开放标准。

AI工程化
产品应用8

NVIDIA 推出Rubin CPX,专为AI推理设计的GPU

NVIDIA发布专为大规模上下文AI推理设计的Rubin CPX GPU,性能提升显著,集成视频编解码器和长文本推理处理。新平台算力强,适用于代码生成与视频处理,多家公司将采用,2026年底上市。

AI工程化
开源动态8

狂涨 10.3k star!共享虚拟浏览器,太酷了!

今天分享项目`Neko`,是基于Docker的虚拟浏览器,用WebRTC技术服务。能在安全隔离环境上网、浏览、运行程序,适合和人共享页面,可一起观影、购物、协同工作,目前在Github获10.3K star。

开源先锋
新闻资讯8

美光财报:这一次,内存行业真的不一样了

美光财报表现亮眼,单季营收414亿美元,同比暴涨346%,毛利率从38%飙升到85%。AI让内存成战略资源,需求爆发,供给受限。美光扩产激进、技术进步快,有望进入‘以利润养扩产’正循环。

newtype AI
算法论文8

Cache Me If You Can:陈丹琦团队如何「抓住」关键缓存,解放LLM内存?

普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长,此前方法难公平比较。团队提出「KV 足迹」指标,改进方法并推出 PruLong 优化内存,节省空间且保性能。

机器之心
新闻资讯7

255亿估值,国产GPU第一股要来了?

6月18日,摩尔线程IPO辅导状态变更为“辅导验收”。它成立于2020年,累计融资超45亿,估值255亿。若上市成国产GPU第一股,或受二级市场追捧。当下国产芯片替代空间广,相关企业有望增长。

芯师爷
新闻资讯8

Transformer危!谷歌MoR架构发布:内存减半推理速度还翻倍

谷歌推出全新底层架构Mixture-of-Recursions(MoR),推理速度提高2倍、KV内存减半,首次在单一框架实现多任务处理与动态分配计算资源,研究人员通过实验验证其性能超Transformer。

量子位
新闻资讯7

英伟达服务器涨价超15%!百亿AI基建的「内存难题」

据彭博社报道,英伟达通知客户,搭载其AI芯片的服务器价格将涨超15%,2027年初生效。涨价主因是内存需求大增、供应紧张价格上涨,这让数据中心前期投入增加,小公司更难入局。

机器之心
新闻资讯7

GPU荒还没结束,CPU可能要被抢起来了

2026 年英伟达宣布量产为 AI 智能体打造的 CPU Vera。此前 AI 产业硬件焦虑多围绕 GPU,如今 AI Agent 改变任务形态,CPU 负担加重,芯片厂商纷纷布局,产能变化或让消费者买单。

DeepTech深科技