「GPU内存共享」共找到 711 篇相关文章
一篇文章告诉你：国产 GPU 背后的技术和商业路线异同
过去两年，国产 GPU 赛道进入公开财务与审视阶段。文章分析了摩尔线程、沐曦等企业不同技术与商业路线，如摩尔线程走“高启动＋快扩张”，沐曦选“厚积薄发＋先服务高端算力场景”等。
不拼GPU！中兴扔出AI超节点，把token价格打下来
在万亿级大模型时代，传统‘芯片堆砌’方式面临通信开销剧增等痛点。中兴通讯推出超节点技术，从系统级协同架构出发，通过六大维度创新，绕开单GPU芯片瓶颈，重构AI算力基础设施，推动行业向开放、融合发展。
全网首测！首款国产GPU「AI算力本」现场上手
新智元报道首款国产GPU「AI算力本」MTT AIBOOK，它搭载国产全功能显卡，预装开发环境，打破系统壁垒。其背后的MUSA架构全栈自研，软件升级、有翻译工具，硬件架构革新，还有开源计划，产品应用广泛。
仅2G内存可跑，刚刚，谷歌开源Gemma 3n，端侧原生多模态！
谷歌全面发布Gemma 3n，将多模态AI功能带入边缘设备并在Hugging Face开源。它原生支持多模态输入输出，针对设备端优化，内存占用低，采用开创性架构，Gemma系列质量也不断突破。
内存一年疯涨170%，云账单里的“隐性成本”该算清了
2025年下半年存储价格成焦点，DRAM合同价同比涨幅达171.8%，致企业IT采购成本上升。华为云更新Flexus云服务器系列，基于柔性算力技术，打破CPU与内存固定绑定，减少浪费，还引入应用级加速，提升性能。
CUDA内核之神、全球最强GPU程序员？OpenAI的这位幕后大神是谁
AI圈聚光灯常聚焦明星人物，OpenAI一位工程师因编写关键CUDA Kernel引发关注，网友猜测是Scott Gray。他在Nervana开发maxas、maxDNN，加入OpenAI后开发块稀疏GPU内核并开源。
这个框架让大模型省下50%内存，合并专家不如直接删掉？
Cerebras Research提出REAP框架，通过专家剪枝和合并技术压缩SMoE模型，能让模型‘瘦身’并保持性能，可省50%内存，但社区测试有不同结果，且存在调度开销等问题。
Meta「轻量级」KernelLLM颠覆GPU内核生成，8B参数碾压GPT-4o
Meta推出基于Llama 3.1微调的8B参数KernelLLM，能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3，多次生成得分更高，让内核开发更易上手。
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。