「Transformer专用芯片」共找到 942 篇相关文章
老牌Transformer杀手在ICLR悄然更新:Mamba-3三大改进趋近设计完全体
Transformer架构仍是AI主流,Mamba作为挑战者影响力大。Mamba-3在ICLR 2026盲审,有梯形离散化、复数化状态空间模型、多输入多输出状态空间模型三大改进,实证表现佳,适合多场景。
Transformer死角,只需500步后训练,循环模型突破256k长度泛化极限
线性循环模型能处理极长序列,是相比Transformer的关键优势,但过去循环模型性能不足且难以泛化。CMU等研究者证明,通过简单训练干预,循环模型500步后训练可突破256k长度泛化极限。
5090将被秘密定位?美或强制植入「地理追踪」,锁定英伟达高端GPU
美参议员Tom Cotton提出法案,要求英伟达、AMD等高端GPU和AI芯片植入「地理追踪」功能,6个月后生效。法案覆盖多种产品,对芯片制造商是挑战,还为未来监管升级做铺垫。
13人干翻Transformer!新架构SSA算力暴减千倍,成本仅Opus 5%
一款基于SSA架构的AI模型SubQ横空出世,其上下文高达1200万Token,计算量比Transformer暴减1000倍,成本不到Claude Opus的5%。打造它的Subquadratic公司仅13人,产品发布后引发AI社区不同反应。
长电科技汽车电子公司投产,剑指车规与机器人芯片封测新高地!
3月10日,长电科技汽车电子(上海)有限公司启用投产,这是临港新片区集成电路与智能汽车产业融合成果。该公司围绕车规核心应用构建制造能力,还兼顾机器人芯片封测,引入智能与AI技术提升效率。
注意力机制大变革?Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美,线性递归等新方法理论有优势,实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架,用滑动窗口循环和B2P算法,实验显示有速度与质量双重突破。
中国首次提出半导体演进新原则:华为“韬定律”5 年内冲刺等效1.4nm制程,麒麟、昇腾将先后落地量产
5月25日,华为何庭波在研讨会上提出“韬定律”,以“时间缩微”替代“几何缩微”。论文展示验证案例,预计2031年高端芯片达1.4nm等效水平,今年秋季麒麟新芯片将首发“逻辑折叠”技术。
DeepSeek、智谱被曝造芯,国产大模型绕开英伟达!
据路透社等爆料,DeepSeek与智谱AI正秘密自研定制化AI芯片,目标是摆脱对英伟达等的硬件依赖,构建自身算力生态。因算力账本和外部环境压力,两家公司选择研发面向推理场景的芯片。
刚刚,小扎终极野心曝光:为数十亿人提供个人超级智能!
Meta宣布与博通定制AI芯片合作延至2029年,初始投入超1GW算力。扎克伯格称要为数十亿人提供个人超级智能。Meta自研MTIA芯片,两年推四代,还成立超级智能实验室,欲成AI基建主导者。
DeepSeek秘密造芯!专攻推理,一年前已启动,招聘全程不公开
路透社消息,凭借算法震动硅谷的中国AI公司DeepSeek正秘密开发自研AI芯片,定位推理,项目约一年前启动,现处早期。全球模型公司自研芯片成趋势,虽挑战大,但DeepSeek有资金支撑。