「通用GPU」共找到 1115 篇相关文章
现代GPU体系结构Cache Operators行为研究
本文基于Compute Capability 8.9的L20 GPU进行实验,对NVIDIA PTX Cache Operators行为做进一步探究,验证了STG指令命中L1 Cache时执行Write Through等结论,还提出了遗留问题待解决。
大模型时代,通用视觉模型将何去何从?
过去通用视觉模型(VGM)是研究热点,想实现‘视觉模型大一统’。但大语言模型发展使研究热点转移,视觉‘独立性’被重新定义。清华鲁继文团队综述梳理其进展,探讨现状、挑战与应用潜力。
HAMi × NVIDIA:GPU 拓扑感知调度实现详解
HAMi社区在v2.7.0版本推出针对NVIDIA GPU的拓扑感知调度功能,解决多卡通信瓶颈。文章深入剖析其设计与实现原理,介绍核心特性、阶段及代码,用双策略寻优算法保障性能与资源健康。
新国产GPU「曦望」,刚融了10个亿
国产GPU公司曦望Sunrise由商汤2024年底分拆独立,时隔半年完成近10亿融资。其产品曦望S1、S2已量产,S3在研发。两位联席CEO分别是百度元老王湛和AMD芯片老将王勇,核心团队规模小但成果显著。
摩尔线程新一代GPU架构10天后发布
2025年12月19 - 20日,摩尔线程首届MUSA开发者大会将在北京举行。大会聚焦国产算力,主论坛将发布新一代GPU架构,还有20+技术专场和1000㎡科技嘉年华,官网已开放报名。
国产GPU第一股IPO获批,募资80亿
证监会官网显示,摩尔线程IPO注册申请已获批准,从6月30日递交招股书,仅用时4个月。此次IPO计划募资80亿用于研发等。公司业务为GPU相关,核心是MUSA架构,已推四代芯片。
多模型共享 GPU 内存,Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点,伯克利Sky Computing Lab团队开源kvcached工具,通过虚拟化技术让多模型共享显存。它引入虚拟内存概念,按需分配,测试显示能提升效率,安装简单、兼容性好。
LLM加速利器LMCache,极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。
刚刚,OpenAI通用智能体ChatGPT Agent正式登场
北京时间周五凌晨,OpenAI发布全新ChatGPT Agent,实现通用智能体能力关键升级。它能自动用多种工具规划,完成复杂任务,已向部分订阅用户开放。其整合多能力,配备工具,基准测试表现佳,但也有安全风险。
刚刚,马斯克官宣xAI解散,22万张GPU算力租给Anthropic
马斯克官宣 xAI 解散,将整合进 SpaceX 新子部门 SpaceXAI。同时,SpaceX 与 Anthropic 达成协议,超 22 万张英伟达 GPU 算力用于提升 Claude 代码生成,双方合作利好彼此。