「GPU内存共享」共找到 714 篇相关文章
一年4次迭代，狂堆GPU成真！微软AI冷液灌芯，散热暴涨3倍
AI芯片发热问题严重，限制了其发展。微软推出微流体冷却技术，在芯片内开液体血管，散热效率最高提升3倍，温升降65%。一年4次迭代解决诸多难题，影响从省钱到使用体验，更是抢跑未来的布局。
Java 30周年献礼：新LTS版本Java 25，服务器内存砍掉22%，AI开发起飞
2025年9月16日，Oracle推出Java 25，这是继JDK 21后首个LTS版本，官方提供八年支持。它含18个JDK增强提案，目标是优化AI运行、安全防护等，在省内存、提速度、简语法等方面均有显著改进。
刚刚，高盛发布26页深度 AI 报告：谁将为GPU的饥渴买单？
高盛发布26页《Powering the AI Era》报告指出，AI服务器农场吸电速度远超电网扩容，引发电力危机。报告分析电力供应来源、应对策略等，还提到数据中心供需缺口扩大，电力成AI最大瓶颈，中国公司或因电力等优势成劲敌。
堆了一仓库GPU，却生产不出专业智能？九章云极用AI工厂给出解答
企业接入通用大模型到业务系统，却发现它难以执行任务。九章云极在发布会上推出‘AI工厂’战略，通过训练工厂和Token工厂填平执行鸿沟，前者用强化学习造专业模型，后者让专业智能规模化流通。
上交大和辉羲把LLM刻进ROM！推理性能冲2万token/s，GPU时代终结？
硅谷Taalas将大模型‘物理焊死’进芯片引关注，而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构，将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。
华为开源突破性技术Flex:ai，AI算力效率直升30%，GPU、NPU一起用
11月21日，华为发布AI容器技术Flex:ai并联合高校将其开源。该技术基于Kubernetes构建，有三大核心突破，能提升算力利用率，异构兼容性优于Run:ai，将推动国产算力应用。
哈佛CS博士月入4000，抢GPU搞科研！硅谷百万年薪挖人，学界疯狂逃离
AI人才大战使学术界陷入危机，博士生津贴低、抢显卡搞科研，面对硅谷百万年薪和大厂千亿算力投入诱惑，加速流向产业。教授担心学生跳槽，高校补救难，产业还推出“折中方案”，学术界考验才刚开始。
MIRIX重塑AI多模态长期记忆：超Gemini 410%，节省99.9%内存，APP同步上线
UCSD和NYU团队推出开源的MIRIX，全球首个多模态、多智能体AI记忆系统。它表现亮眼，在多任务中超越传统方法，有类人记忆系统等特点，还上线Mac端应用，开启大模型从对话生成到长期记忆驱动心智的新周期。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
Qwen突破：用「并行计算」代替「堆参数」，新方法内存降22倍、延迟降6倍
LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。