「内存短缺」共找到 231 篇相关文章
刚刚，AMD、OpenAI联合发布超强AI芯片，推理提升35倍
今天凌晨，AMD举办2025全球AI发展大会，与OpenAI联合发布Instinct MI400、Instinct MI350系列超强AI芯片。MI350推理性能提升35倍，MI400内存配置大幅提升。AMD还开源ROCm7平台，7大AI平台与其合作。
一文读懂：GPU到底是怎么工作的？
文章详细介绍GPU工作原理，对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题，还分析FLOPS、延迟、内存等因素对性能的影响，最后讲了GPU通过多线程和超量订阅获高吞吐量。
美光沉迷制造“电子黄金”，不在乎AI泡沫
当地时间12月17日盘后，美光2026财年第一财季多项业绩指标超预期，营收和利润大涨。美光不相信“AI泡沫”，其业绩增长源于AI驱动的高带宽内存需求爆发。美光预计HBM市场规模将快速增长，还进行了产品结构优化。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。
马斯克点火全球最大超算，首个1GW狂飙奇点！6万亿Grok 5在训
马斯克官宣全球首个吉瓦级超算Colossus 2上线，狂堆55万块GPU，目标百万。下一代Grok 5已在训练，6万亿参数将引爆智能奇点。同时，全球AI巨头掀起算力军备赛，但美国面临电力短缺难题。
极致优化Android平台APK的大小
文章以Android为例，介绍UE包可裁剪部分的优化思路与实践，优化APK大小和Native库运行时内存占用。从压缩NativeLibs、代码体积优化、资源裁剪等方面着手，还给出优化效果和额外资料。
CUTLASS CuTe GEMM细节分析（三）——Swizzle<B, M, S>模板参数的取值
文章以(8, 32):(32, 1)为例，探索确定Swizzle<B, M, S>中M、S和B参数的方法。指出M、S与PTX指令及共享内存多Bank结构相关，B用于指定Swizzle行数避免bank conflict，还给出不同Layout的参数取值。
烧钱，能解决 AI 存储的焦虑吗？
存储短缺焦虑或延续至 2026 年，传统云存储因 AI 落地面临性能、成本等压力。InfoQ 联合腾讯云邀行业人士探讨成因、策略与竞争主线，还给出存储价值评估与规划方法，介绍文远知行和腾讯云实践。
EMNLP 2025 浙大&蚂蚁 | 提出动态压缩CoT推理新方法：LightThinker
随着AI发展，大语言模型处理复杂推理任务能力提升，但推理时产生大量中间步骤和文本，拖慢计算速度、增加资源压力。浙大、蚂蚁等机构研究者提出LightThinker，可动态压缩推理步骤，降低内存占用和计算成本。
硅谷GPU蒙尘，马斯克一言成谶：美国AI被电卡脖子
彭博社消息，加州圣克拉拉两处数据中心空置6年多等电力，凸显美国科技行业缺电问题。此前微软纳德拉承认缺电致GPU吃灰，马斯克也曾预言芯片或超供电能力。电力短缺制约数据中心发展，影响美国AI前进。