「激活值内存」共找到 637 篇相关文章
AI产业链投资大逻辑:第五集
本集围绕AI产业链算力服务层中云的故事展开,探讨在AWS等超大规模云厂商主导市场下,为何还会冒出新型AI云公司且获高估值。过去十五年云计算市场由巨头主导,2023年后,其自身算力不足使市场结构出现裂缝。
2026年具身智能进入“上市大年”
2026年开年不到三月,具身智能赛道涌入200亿热钱,7家企业成百亿估值独角兽,超20家明确上市计划。虽2025年该领域有泡沫成共识,但因政策加持、技术突破等因素,投资机构仍重金下注。行业格局分六大派系。
FlashAttention 完全进化史:FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开,从Attention性能瓶颈引出问题,阐述其各版本演进。FA-1实现算法突破,避免O(N²)内存;FA-2适配架构,提升性能;FA-3深度协同,实现异步;FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA(次平方稀疏注意力)算法。它支持12M tokens上下文,比fastAttention快52倍,训练和推理更快。SSA改变了注意力扩展特性,有计算和内存线性扩展等特性,经三阶段训练可可靠利用长上下文。
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
文章介绍Hopper GPU新特性TMA,它能高效传输多维数组数据。文中展示用TMA对2D数组操作,如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法,最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。
大基金或将领投DeepSeek?算力拐点将至
5月6日报道国家大基金正洽谈领投DeepSeek首轮融资,估值约450亿美元。大基金此前未公开投资大模型公司,此次若落地是从“半导体硬件”向“AI应用端”延伸。2025年是中国AI芯片出货量关键年份,DeepSeek-V4发布,多家国产芯片品牌完成适配,但国产芯片仍面临性能、软件生态等挑战。
APP推广,常用的100种英文名称解释
ASO工具箱里装着哪些英文专业名词?从AARRR到watchOS,一篇文章带你了解APP推广中常遇到的100个英文术语。