「服务器内存」共找到 328 篇相关文章
d-Matrix用3D堆叠技术终结"内存墙",AI推理迎来光速时代
2025年9月Hot Chips上,d - Matrix展示3D堆叠数字内存计算技术,直击AI“内存墙”难题。其产品Corsair带宽强大,新Pavehawk架构更有性能跃升,为AI推理开辟新赛道,虽面临挑战但前景可期。
昇腾+鲲鹏联手上大招!华为爆改MoE训练,吞吐再飙升20%,内存省70%
最近华为在MoE训练系统给出算子和内存优化新方案,三大核心算子全面提速,系统吞吐再提20%,Selective R/S实现内存节省70%,为大规模MoE模型训练扫清障碍。
黄仁勋CES回应全场!内存卡了GPU脖子,游戏玩家可能只能用旧显卡了
在CES 2026上,黄仁勋围绕物理AI发言,涉及机器人、自动驾驶等。他预计今年有类人机器人,推出自动驾驶模型Alpamayo 1。因内存成本和供应问题,或复产旧显卡,还谈了AI对游戏影响及内存规划等。
24K+ star!AI 专用无头浏览器,快11倍、内存省9倍!
Lightpanda是专为AI代理、网页抓取和自动化测试而生的开源无头浏览器,用Zig语言重写核心引擎。官方称其速度比Chrome快11倍,内存占用仅为1/9,兼容主流自动化库,目前处于Beta阶段,已获24k+ Star。
双11电脑遭遇内存涨价潮,华强北“一天一个价”,雷军都感叹涨太多
受AI浪潮影响,内存价格水涨船高,消费级内存也不例外。全球内存疯涨,国内线上线下均受波及,价格翻倍情况常见,且局面可能长期持续,电脑、手机等产品都遭殃,主要因AI让内存需求激增。
256G比5090还贵!内存一年暴涨3倍,全球为奥特曼豪赌买单
全球内存供不应求,价格一年暴涨3倍。奥特曼的采购锁定40%产能,巨头转向高利润AI产品致中低端内存锐减。2026年内存短缺或重塑市场,GPU也将涨价,大家都要为AI发展买单。
砍掉70%内存!陈丹琦团队破解LLM长文本瓶颈
大型语言模型处理长文本时,KV缓存占用内存巨大。陈丹琦团队提出KV足迹作评估标尺,推出分块驱逐与PruLong训练技术,在128K长文本任务中最高降低70%内存,性能损失仅10%。
AI引爆内存荒:手机电脑不仅要涨价,还要减配
AI发展带来内存短缺问题,波及消费电子领域,电子设备价格上涨且短期内难以缓解。TrendForce高级研究副总裁Avril Wu建议现在就买电子设备,因产能被AI截胡,内存市场处于结构性紧缺。
Claude Code 通过流式 HTTP 获得对远程 MCP 服务器的支持
Anthropic在Claude Code中引入对连接远程MCP服务器的支持,开发人员无需手动本地服务器设置就能集成外部工具和资源,还支持通过HTTP或SSE的OAuth 2.0进行身份验证,不同人对此功能看法不一。
Ollama升级模型调度系统:内存管理更精准,多GPU性能提升
Ollama升级模型调度系统,精确测量运行模型所需内存,带来内存崩溃减少、GPU利用率提高等改进。Gemma3、Mistral - small3.2等模型性能提升,更多模型正迁移,还在开发iGPU支持,评估NPU支持。