GPU内存共享」共找到 711 篇相关文章

产品应用8

NVIDIA 推出Rubin CPX,专为AI推理设计的GPU

NVIDIA发布专为大规模上下文AI推理设计的Rubin CPX GPU,性能提升显著,集成视频编解码器和长文本推理处理。新平台算力强,适用于代码生成与视频处理,多家公司将采用,2026年底上市。

AI工程化
开源动态8

狂涨 10.3k star!共享虚拟浏览器,太酷了!

今天分享项目`Neko`,是基于Docker的虚拟浏览器,用WebRTC技术服务。能在安全隔离环境上网、浏览、运行程序,适合和人共享页面,可一起观影、购物、协同工作,目前在Github获10.3K star。

开源先锋
新闻资讯8

美光财报:这一次,内存行业真的不一样了

美光财报表现亮眼,单季营收414亿美元,同比暴涨346%,毛利率从38%飙升到85%。AI让内存成战略资源,需求爆发,供给受限。美光扩产激进、技术进步快,有望进入‘以利润养扩产’正循环。

newtype AI
算法论文8

Cache Me If You Can:陈丹琦团队如何「抓住」关键缓存,解放LLM内存

普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长,此前方法难公平比较。团队提出「KV 足迹」指标,改进方法并推出 PruLong 优化内存,节省空间且保性能。

机器之心
新闻资讯7

255亿估值,国产GPU第一股要来了?

6月18日,摩尔线程IPO辅导状态变更为“辅导验收”。它成立于2020年,累计融资超45亿,估值255亿。若上市成国产GPU第一股,或受二级市场追捧。当下国产芯片替代空间广,相关企业有望增长。

芯师爷
新闻资讯8

Transformer危!谷歌MoR架构发布:内存减半推理速度还翻倍

谷歌推出全新底层架构Mixture-of-Recursions(MoR),推理速度提高2倍、KV内存减半,首次在单一框架实现多任务处理与动态分配计算资源,研究人员通过实验验证其性能超Transformer。

量子位
新闻资讯7

英伟达服务器涨价超15%!百亿AI基建的「内存难题」

据彭博社报道,英伟达通知客户,搭载其AI芯片的服务器价格将涨超15%,2027年初生效。涨价主因是内存需求大增、供应紧张价格上涨,这让数据中心前期投入增加,小公司更难入局。

机器之心
新闻资讯7

GPU荒还没结束,CPU可能要被抢起来了

2026 年英伟达宣布量产为 AI 智能体打造的 CPU Vera。此前 AI 产业硬件焦虑多围绕 GPU,如今 AI Agent 改变任务形态,CPU 负担加重,芯片厂商纷纷布局,产能变化或让消费者买单。

DeepTech深科技
新闻资讯7

17 万模型背后:魔搭联合 AMD 送 1000 小时 GPU 的算盘

魔搭社区联合 AMD 推出「AMD 开发者激励计划」,提供最高 1000 小时 GPU 算力额度。魔搭社区对标 Hugging Face,托管超 17 万个开源模型。此次激励是三方匹配的生意,还释放了硬件去美元化和模型托管社区升级的信号。

AI Reading Hub
推荐文章8

Kernel Design Agent(KDA) 的B200 GPU Kernel 编程准则 Skill

文章围绕 Kernel Design Agent(KDA) 的 B200 GPU Kernel 编程展开,介绍目标平台、架构参数,阐述独有特性与编程要点,给出关键性能准则调整方向,详述 16 条准则及特殊 Kernel 类型优化策略和编写前检查清单。

GiantPandaLLM