内存涨价」共找到 250 篇相关文章

7

【博客转载】CUDA Vectorized Memory Access (文末送书)

文章展示如何用向量化内存访问提高CUDA函数有效内存带宽,实现朴素自定义设备内存拷贝函数,对比不同数据类型、大小及方法的性能,得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。

GiantPandaLLM
新闻资讯7

深度 | MLCC涨价真相:不再是手机件,而是算力基建

2026年7月,MLCC行业处于AI算力驱动的涨价周期。供需双重驱动使其进入新景气周期,正从“周期品”变“成长品”。国产厂商微容科技成长性亮眼,“三轮驱动”抗周期,有望在国产替代中突围。

芯师爷
新闻资讯8

Transformer危!谷歌MoR架构发布:内存减半推理速度还翻倍

谷歌推出全新底层架构Mixture-of-Recursions(MoR),推理速度提高2倍、KV内存减半,首次在单一框架实现多任务处理与动态分配计算资源,研究人员通过实验验证其性能超Transformer。

量子位
算法论文8

NIPS2025 | A-Mem让Agent拥有动态自我记忆功能,达到新SoTA

近年来,LLM代理需长期内存系统,但现有系统缺乏灵活性。论文提出A - Mem能动内存系统,受Zettelkasten启发,能让记忆‘自我整理’和‘自我更新’,在多基准测试领先,也指出了局限性和未来方向。

深度学习自然语言处理
开源动态8

谷歌开源Gemma 3n:2G内存就能跑,100亿参数内最强多模态模型

本周五凌晨,谷歌正式发布、开源全新端侧多模态大模型 Gemma 3n。它有多模态设计、专为设备端优化等特性,核心是 MatFormer 架构,还采用了 PLE 技术等,在多方面实现质量提升。

机器之心
新闻资讯7

超级周期来临!存储龙头大爆发

9月起,存储芯片第二波涨价潮开启,全球产业链企业股价狂欢。存储芯片需求在AI时代外溢,宣告超级周期来临。国产芯片龙头借此翻身,兆易创新存储产品线涨价,利基型芯片市场供应紧缺,公司有望提升份额。

芯师爷
新闻资讯8

内存减6倍、精度0损失,推理提速8倍!谷歌新技术震撼了AI圈

Google Research团队推出TurboQuant技术,能将KV缓存6倍压缩、无精度损失,推理速度提升8倍,解决内存瓶颈问题,为大语言模型应用扫清障碍,引发业界关注,还致存储芯片巨头股价大跌。

AIGC开放社区
新闻资讯7

内存条涨疯了,国产替代如何破局?

2025年三季度以来,全球存储芯片市场涨价,32GB内存条价格疯涨,分析机构预测后续还会再涨。国际存储巨头赚得盆满钵满,下游厂商叫苦。本轮涨价因人工智能兴起,中国存储芯片有被“卡脖子”风险,国产替代挑战大。

芯师爷
推荐文章7

【博客转载】CUDA Shared Memory Swizzling

文章讨论用swizzling技术处理CUDA共享内存bank冲突,它可重排索引映射避免冲突且不浪费内存。以矩阵转置为例,对比有冲突、填充、swizzling三种实现,还分析了swizzling和填充优缺点。

GiantPandaLLM
推荐文章7

【博客转载】CUDA Local Memory

文章围绕CUDA本地内存展开,介绍其为线程私有存储空间,访问特性与全局内存类似。通过两个计算滑动平均值的CUDA kernel示例,展示数组索引复杂度对存储位置的影响,还给出判断存储位置的方法及优化建议。

GiantPandaLLM