「激活值内存」共找到 634 篇相关文章
2025具身智能创投全景:554亿热钱,4大估值梯队,10亿元现金流门槛|量子位智库报告
2025年具身智能赛道迎来资本狂欢,投资事件从173起涨至447起,资金从137亿飙升至554亿。政策、产业链等因素致融资金额陡增,财务、产业、国资三股资本重塑格局,还形成估值四梯队。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT:近乎无损 超越KIVI,内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高,限制模型批量处理能力。论文提出OTT方法,动态追踪异常令牌单独高精度保存,其余压缩。实验显示,它准确性高、效率好,不过在极短文本等场景有局限。
6 天、96 万行 Rust、直接合并?Claude Code 被 Bun 的内存泄漏拖垮后,Bun 让 Claude 亲手重写了自己
2026 年 5 月,Bun 创始人 Jarred Sumner 宣布将合并 Rust 重写版本,终结 Zig 版。此次迁移仅用六天,涉及 96 万行代码。此前,Bun 内存泄漏影响 Claude Code,促使 Anthropic 让 Claude 重写 Bun。不过,AI 重写也引发对代码质量和流程的争议。
AI人格集体黑化?Anthropic首次「赛博切脑」,物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉,发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变,情感劫持易使其失控。最后给出激活值钳制技术,标志 AI 安全防御进入新阶段。
【博客转载】CUDA Constant Memory
文章介绍 CUDA 常量内存,它是设备上 64KB 被缓存的只读特殊内存空间。通过示例比较不同访问模式下常量内存和全局内存性能,指出块或 warp 一次访问时,常量内存快 10%;线程一次或伪随机访问时,慢很多。
【博客转载】CUDA Vectorized Memory Access (文末送书)
文章展示如何用向量化内存访问提高CUDA函数有效内存带宽,实现朴素自定义设备内存拷贝函数,对比不同数据类型、大小及方法的性能,得出拷贝数据单元多、单元大及以8或16字节向量化单元拷贝可提升带宽等结论。
英伟达挑战者,估值490亿
AI芯片初创公司Groq完成7.5亿美元融资,估值达69亿美元。它由前谷歌工程师创立,致力于打破英伟达垄断,产品能低成本维持AI性能,但在生态、大规模模型支持等方面与英伟达有差距,短期内难威胁其地位。
Claude估值暴涨300%!全球独角兽字节第三他第四
Anthropic官宣完成F轮130亿美元融资,最新估值达1830亿美元,较上轮暴涨近300%,成全球第四大估值初创公司。半年内营收从10亿美元年化突破50亿,Claude Code年收入破5亿。
8个月晋升独角兽,欧洲版Cursor估值18亿美元
成立仅8个月的瑞典AI新星Lovable成独角兽,估值达18亿美元,拥有超230万免费活跃用户、18万付费订阅者。它用自然语言重塑编程,完成2亿美元A轮融资,付费用户首月留存率超ChatGPT。
Transformer危!谷歌MoR架构发布:内存减半推理速度还翻倍
谷歌推出全新底层架构Mixture-of-Recursions(MoR),推理速度提高2倍、KV内存减半,首次在单一框架实现多任务处理与动态分配计算资源,研究人员通过实验验证其性能超Transformer。