「内存密集型内核」共找到 304 篇相关文章
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。
代码怎么才能跑的更快
文章围绕让代码跑更快展开，先介绍调整源代码的方法，如降低循环开销、去除内存引用等，又阐述使用硬件加速指令，像用 SIMD 函数、避免分支语句等，还提及多核并行和分析瓶颈等要点。
27亿美元天价回归！谷歌最贵「叛徒」、Transformer作者揭秘AGI下一步
在Hot Chips 2025上，Transformer发明者之一、谷歌Gemini联合负责人Noam Shazeer指出LLM发展需更多算力、内存等硬件支持。微软AI的CEO Mustafa Suleyman预测2026年底前LLM或成“行动型AI”，还提及失业潮等问题。
32G内存条从800元暴涨到3800元之后
央视财经报道内存涨价潮席卷全球，从上游芯片制造到下游终端产品均受影响。AI爆发致存储芯片供需失衡，上游厂商利润狂欢，中游方案商转型，下游终端产品成本上升、格局分化，产业进入价值重构新周期。
通过查看GPU Assembly分析CUDA程序
文章是关于通过分析SASS代码提高内存受限CUDA程序性能的笔记。以向量复制程序为例，对比普通和向量化版本，通过查看SASS代码，解释向量化版本性能更快的原因是加载/存储数据量更大、启动块数更少。
刚刚，AMD、OpenAI联合发布超强AI芯片，推理提升35倍
今天凌晨，AMD举办2025全球AI发展大会，与OpenAI联合发布Instinct MI400、Instinct MI350系列超强AI芯片。MI350推理性能提升35倍，MI400内存配置大幅提升。AMD还开源ROCm7平台，7大AI平台与其合作。
一文读懂：GPU到底是怎么工作的？
文章详细介绍GPU工作原理，对比其与CPU差异。指出GPU擅并行计算、能解决复杂问题，还分析FLOPS、延迟、内存等因素对性能的影响，最后讲了GPU通过多线程和超量订阅获高吞吐量。
美光沉迷制造“电子黄金”，不在乎AI泡沫
当地时间12月17日盘后，美光2026财年第一财季多项业绩指标超预期，营收和利润大涨。美光不相信“AI泡沫”，其业绩增长源于AI驱动的高带宽内存需求爆发。美光预计HBM市场规模将快速增长，还进行了产品结构优化。
刚刚，OpenAI前CTO Mira Murati公司Thinking Machines Lab发文，揭开了大模型不确定性的真相
OpenAI前CTO Mira Murati创立的Thinking Machines Lab推出研究博客Connectionism，首篇文章聚焦LLM推理的非确定性问题。研究发现真正原因是批次不变性缺失，提出实现批次不变内核的方案，实验效果显著。
谷歌的DeepSeek时刻：LLM推理加速被干到了8倍
谷歌TurboQuant论文介绍量化算法，能为大语言模型和向量搜索引擎大规模压缩。可将大语言模型KV缓存内存减至少6倍、加速达8倍且精度零损失，还介绍其工作原理及实验结果。