「内存带宽」共找到 237 篇相关文章
Qwen突破：用「并行计算」代替「堆参数」，新方法内存降22倍、延迟降6倍
LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
2.5K Star 牛皮项目，512MB内存就能跑，树莓派、旧电脑秒变专属云桌面！
介绍开源Web桌面操作系统ArozOS，它由香港开发者tobychui为低功耗设备设计。始于2016年，用Go语言编写，在Github获2.5K star。功能强、资源占用低、易安装，能让旧设备变个人云桌面。
博士宿舍激情脑暴，革新了Scaling Law？Qwen和浙大联手推出新定律，直接干掉95.5%推理内存！
近日，阿里与浙大合作提出并行计算缩放定律 ParScale，可在不增参数下提升大模型能力，推理效率更高。它通过引入并行流实现，在数学、编程等任务表现佳，适合边缘设备，代码已开源。
劈柴哥和哈萨比斯亲自站台！谷歌世界模型Project Genie刷屏，幕后团队揭秘60秒不是极限，内存是巨大约束
谷歌发布世界模型原型 Project Genie，用一句话或图就能生成可玩交互的实时虚拟世界，由劈柴哥和哈萨比斯站台。它基于 Genie 3、Nano Banana Pro 和 Gemini 构建，解决了世界模型长期以来的短板，目前处于实验阶段。
劈柴哥和哈萨比斯亲自站台！谷歌世界模型Project Genie刷屏，幕后团队揭秘60秒不是极限，内存是巨大约束
谷歌发布世界模型原型产品 Project Genie，只需一句话或图就能一键生成可玩、可交互实时虚拟世界。它借助 Genie 3 等构建，解决了早期世界模型多短板，虽现处实验阶段，但已引发热议，应用潜力大。
慕了！内存芯片巨头年终奖人均64万；32岁程序员猝死背后公司被扒，曾给39万“封口费”；马斯克曝星舰成本将降99%，商业航天受捧｜AI周报
这是一篇AI周报，涵盖多领域热点。如SK海力士发高额年终奖；月之暗面张予彤称Kimi用少量资源开发领先模型；马斯克透露星舰目标、人形机器人计划等；多家公司有新动态，如阿里推AIGC应用、百川发布医疗大模型等。
本地部署Qwen 3.8 27B，要用什么配置
Qwen 3.8 27B是性能好、体积小的开源模型，个人也能本地部署。本地跑开源大模型，重点看容量和带宽两个指标，还介绍了Mac、RTX 5090、RTX PRO 6000三种部署方案及优缺点。
GPT-5.4据传下周上线！200万上下文窗口+持久化状态，告别频繁遗忘
OpenAI工程师在GitHub仓库意外泄露GPT - 5.4，相关信息流传后被撤回。据传下周上线，其有200万Tokens上下文窗口与持久记忆，支持全分辨率视觉直读，将引发硬件内存之战。
截击英伟达！OpenClaw狂吞Token，北大系芯片黑马剑指2000 Tokens/s
NVIDIA GTC 2026前夕，AI推理赛道竞争激烈。北大系寒序科技宣布融资，首颗样片测试跑通，单位面积带宽达100GB/s/mm²，下一代「MRAM+SRAM」架构目标2000 Tokens/s，挑战英伟达。