「GPU显存」共找到 468 篇相关文章
模型砍掉一大半,准确率反升15%!华科&阿里安全新研究实现ViT近乎无损的类特定压缩|ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法,一改传统压缩策略,通过“先训练再剪枝”实现ViT近乎无损的类特定压缩,为大模型服务小场景提供新路径,论文已被ICLR 2026接收。
当AI应用都在「撒钱」时,谁来扛住千亿交互背后的算力大考?
春节将至,AI应用竞争激烈,各大厂商纷纷「撒钱」。行业预测除夕当晚主流AI应用交互量或破千亿次,考验底层算力。Remy爆火时,共绩科技助其扛住流量冲击,其弹性算力调度优势明显,适合春节流量洪峰。
5.2K Star!离线也能翻译,零网络高隐私,40+语言的纯本地翻译神器!
日常在线翻译服务有隐私、离线使用等问题,Argos Translate是100%本地运行的离线翻译方案,免费、隐私安全,支持40多种语言,具备多模态接口、GPU加速等功能,适合多种场景。
奥特曼豪赌万亿算力,OpenAI估值万亿美元 | 新智元ASI产业图谱10月号
新智元更新ASI产业图谱十月号,聚焦前沿模型、开源模型及世界模型与具身智能。介绍了模型排名情况,指出OpenAI现‘算力饥渴’,还提及国产模型、应用突破,强调算力将成AI竞争关键。
【CUDA 博客】使用PTX指令更高效地加载和存储矩阵
文章围绕使用PTX指令高效加载和存储矩阵展开,介绍`ldmatrix`和`stmatrix`指令格式、适用GPU版本、地址计算逻辑等,给出不同矩阵数量的实现代码示例,助读者理解和应用。
【CUDA博客】关于TensorCore和Inline PTX Assembly的一个超简短笔记
文章围绕TensorCore和Inline PTX Assembly展开,介绍利用PTX指令发挥TensorCore潜力。讲述矩阵乘法和累加操作,给出半精度及替代浮点指令形式,有代码示例并分析,还提到不同数据类型用法及SASS指令。
openJiuwen协同昇腾打造智能体「算力亲和」技术,首token时延砍半,推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态,导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术,建立语义协同机制,优化 KV Cache 管理,提升 Agent 系统运行效率。
世界模型的DeepSeek时刻!魔芯Flash World Model降本70%,跑出50FPS实时交互
魔芯科技发布全球首个超高帧率交互式世界模型 MoWorld,无需高端 GPU,实现影视级画质、50 FPS 实时交互,降本 70%。其技术架构先进,产业化路径清晰,获过亿美元融资。
英伟达想革光模块的命
AI数据中心建设浪潮推动光模块行情上涨,A股光模块三剑客市值超茅台。但英伟达欲用CPO革光模块的命,将光器件集成到电芯片,与台积电合作推进。这会打击中国光模块集成商,不过短期内光模块仍有市场。
卖鞋厂转型做 AI 股价暴涨 582%,华尔街最不缺这种荒诞闹剧
4月初还在发布新品的鞋履品牌Allbirds,一周后宣布业务转向人工智能计算基础设施,准备更名“NewBird AI”。其股价一日内涨幅超582%,但转型执行难度高,是战略转型还是资本包装存疑。