「Transformer专用芯片」共找到 915 篇相关文章
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型(MoE),它能解决稠密模型扩展瓶颈。阐述其优势,如计算高效、适合并行等,还介绍在transformers库中支持稀疏架构的演进,包括权重加载重构、专家执行后端、专家并行及训练方案。
先进封装成为AI芯片胜负手
2026年先进封装企业在多方面有新进展,其对芯片性能等指标影响大,全产业链都在加码布局。委外封测厂、代工厂看好其营收贡献,市场动能明确,各环节技术创新也多点突破。
国产存储芯片抢抓“超级周期”机遇
自今年第三季度起,存储芯片行业进入‘超级周期’,海外大厂产能向高端转移造成中端供给缺口。本土存储芯片厂商完善中低端布局、量产产品、取得高端进展,有望填补空白、提升话语权。
中国光芯片迎来“迈向高端”黄金窗口期
近期光芯片领域热度攀升,政策、产业、资本利好。AI算力爆发使光芯片从‘通信管道’升级为‘战略性资源’,需求大增但供给端短板凸显。本土产业链分层,高端赛道迎来突破窗口期,有三条主流技术路线。
苹果AI选Mamba:Agent任务比Transformer更好
苹果新研究指出,在长任务、多交互的Agent式任务中,基于SSM架构的Mamba在效率与泛化能力上超Transformer。虽Mamba有局限性,但引入外部工具后性能显著提升。
算力不再稀缺?中国AI芯片供给出现反转
过去中国AI产业常焦虑算力不足,如今国产AI芯片进入集中交付阶段,自给率提升。伯恩斯坦测算,国产化率有望从2023年约17%提至2027年约55%。产业进入新阶段,竞争从“拼参数”转向“拼体系”。
TransDiff--最简洁的AR Transformer + Diffusion图像生成方法
文章分享图像生成新方法TransDiff,它结合AR Transformer与Diffusion,提出MRAR范式。通过Q&A解答其使用Transformer原因、小Diffusion Deocder效果等问题,还指出它有连续帧生成潜力,将用于视频生成。
180亿深圳芯片黑马,华为猛下单
4月25日晚,云天励飞公告2024年营收超9亿,同比增81.3%,截至4月28日收盘市值超180亿。该公司以‘算法芯片化’为基础,在推理算力、行业赋能、消费级业务均有布局,还与华为等合作。
什么是芯片可测性设计(DFT)技术?
在芯片复杂度增加、测试难度增大的背景下,DFT技术应运而生。它是在芯片设计阶段引入测试逻辑的方法,分功能和制造测试,有扫描链、MBIST、边界扫描等核心技术,能提高测试效率、降低成本、缩短开发周期。
雷军:小米一直有一颗芯片的梦想
9月25日晚雷军年度演讲深情坦言,小米一直有造芯梦想。其造芯始于2014年松果电子,澎湃S1虽量产但未成功,后停掉SoC研发。2024年小米成功流片3nm芯片,玄戒O1首发于小米15S Pro,表现出色,但雷军称其成功只是第一步。