「内存市场」共找到 859 篇相关文章

算法论文7

ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT:近乎无损 超越KIVI,内存减6.4倍 吞吐量提2.3倍

LLM生成文本时KV Cache内存占用高,限制模型批量处理能力。论文提出OTT方法,动态追踪异常令牌单独高精度保存,其余压缩。实验显示,它准确性高、效率好,不过在极短文本等场景有局限。

深度学习自然语言处理
新闻资讯7

6 天、96 万行 Rust、直接合并?Claude Code 被 Bun 的内存泄漏拖垮后,Bun 让 Claude 亲手重写了自己

2026 年 5 月,Bun 创始人 Jarred Sumner 宣布将合并 Rust 重写版本,终结 Zig 版。此次迁移仅用六天,涉及 96 万行代码。此前,Bun 内存泄漏影响 Claude Code,促使 Anthropic 让 Claude 重写 Bun。不过,AI 重写也引发对代码质量和流程的争议。

InfoQ
新闻资讯7

为什么HBM能摆脱传统周期?

当前市场对HBM和DRAM能否摆脱传统半导体周期性存争议。过去半导体周期由消费电子换机节奏驱动,而AI推理不同,大模型推理对内存依赖是硬约束,GPU更新对HBM需求几乎注定指数级增长。

newtype AI
推荐文章7

【博客转载】CUDA Constant Memory

文章介绍 CUDA 常量内存,它是设备上 64KB 被缓存的只读特殊内存空间。通过示例比较不同访问模式下常量内存和全局内存性能,指出块或 warp 一次访问时,常量内存快 10%;线程一次或伪随机访问时,慢很多。

GiantPandaLLM
7

【博客转载】CUDA Vectorized Memory Access (文末送书)

文章展示如何用向量化内存访问提高CUDA函数有效内存带宽,实现朴素自定义设备内存拷贝函数,对比不同数据类型、大小及方法的性能,得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。

GiantPandaLLM
推荐文章7

市场那么大,国产射频为何要内卷?

国产射频行业内卷严重,几乎无盈利企业,全球市场份额低。问题出在同质化厂商多、高估国内市场、缺国际视野人才、少耐心资本、专利壁垒及螃蟹效应等方面,还需有序竞争破局。

芯师爷
新闻资讯8

激流:中国科技投资的势能与锚点|甲子引力X

2026年中国科技投资市场有结构性变化,一级市场资金重启、结构分化,AI和具身智能投资热;二级市场IPO回暖、退出重估。8月甲子光年将办投资大会,还会发布投资榜。

甲子光年
新闻资讯7

AI玩具和AI眼镜爆火,端侧市场或将超越云端?

当下AI难形成商业闭环,端侧AI或为落地答案。芯原股份戴伟民看好端侧AI市场,认为未来端侧推理需求或超云端训练,还指出AI眼镜、玩具、智能汽车等增量市场,同时介绍了芯原布局。

芯师爷
新闻资讯7

数据中心热潮没有消退,但巨头们确实按了“暂停键”

市场对数据中心热潮是否结束感到焦虑,但AI整体资本支出强劲,市场需求是“暂时的暂停”。麦肯锡预测未来五到七年数据中心市场将保持20%至25%的增长范围。科技巨头重申市场强劲,同时数据中心扩张面临能源瓶颈等挑战。

芯师爷
新闻资讯7

软银与英特尔合作,开发AI存储芯片

Nikkei消息,软银与英特尔宣布成立合资公司Saimemory,开发适用于AI的堆叠式动态随机存取存储器原型,目标两年内降低50%功耗,实现与高带宽内存相当性能。双方注资7000万美元,各有布局目的。

AIGC开放社区