「GPU内存共享」共找到 732 篇相关文章
HAMi × NVIDIA:GPU 拓扑感知调度实现详解
HAMi社区在v2.7.0版本推出针对NVIDIA GPU的拓扑感知调度功能,解决多卡通信瓶颈。文章深入剖析其设计与实现原理,介绍核心特性、阶段及代码,用双策略寻优算法保障性能与资源健康。
新国产GPU「曦望」,刚融了10个亿
国产GPU公司曦望Sunrise由商汤2024年底分拆独立,时隔半年完成近10亿融资。其产品曦望S1、S2已量产,S3在研发。两位联席CEO分别是百度元老王湛和AMD芯片老将王勇,核心团队规模小但成果显著。
The Batch: 879 | 谷歌必须与 AI 竞争对手共享数据
一家联邦法院裁定,谷歌须将当前搜索索引交给美国本土AI及搜索引擎对手,以打破其在网页搜索的垄断,但未采纳拆分公司请求。谷歌按条件共享数据,在其他业务仍可竞争。
摩尔线程新一代GPU架构10天后发布
2025年12月19 - 20日,摩尔线程首届MUSA开发者大会将在北京举行。大会聚焦国产算力,主论坛将发布新一代GPU架构,还有20+技术专场和1000㎡科技嘉年华,官网已开放报名。
国产GPU第一股IPO获批,募资80亿
证监会官网显示,摩尔线程IPO注册申请已获批准,从6月30日递交招股书,仅用时4个月。此次IPO计划募资80亿用于研发等。公司业务为GPU相关,核心是MUSA架构,已推四代芯片。
LLM加速利器LMCache,极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。
刚刚,马斯克官宣xAI解散,22万张GPU算力租给Anthropic
马斯克官宣 xAI 解散,将整合进 SpaceX 新子部门 SpaceXAI。同时,SpaceX 与 Anthropic 达成协议,超 22 万张英伟达 GPU 算力用于提升 Claude 代码生成,双方合作利好彼此。
英伟达发布统一GPU开发平台DGX Cloud Lepton
英伟达发布专为开发者设计的AI平台DGX Cloud Lepton,可汇聚全球GPU计算资源,提供即时访问和无缝部署能力。它功能强大,支持多环境部署,提供统一体验,还有庞大合作网络。
LeCun的世界模型单GPU就能跑了
LeCun世界模型有新进展,开源极简训练方案LeWorldModel,单GPU就能跑,基于JEPA架构,速度快、参数小、控制强且懂物理,完胜此前JEPA方法,训练更简单。
继GPU、存储暴涨之后,AI最终攻陷CPU市场
AI引发全球性芯片短缺,GPU、内存、存储类芯片市场已超预期,如今CPU市场也受影响。Intel和AMD 3月上调CPU价格,平均涨幅10% - 15%,还面临资源短缺,交付周期延长。这或使CPU市场格局出现变化。