开源动态8

Mamba-3发布，推理效率碾压Transformer7倍

新智元2026-03-19

AI 摘要

CMU普林斯顿团队发布Mamba-3，改进核心SSM。它推理优先，有指数梯形离散化等三大技术，效率碾压Transformer。不过纯SSM检索不如Transformer，混合架构或成未来趋势。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Kimi与DeepSeek同现大模型架构图

本文梳理大模型Attention架构从分流到重组的变迁路径，以MiniMax多次架构调整、GLM-5.3-Flash融合Kimi与DeepSeek技术路线的案例，分析大模型研发的平衡逻辑与行业竞争力核心。

本文是腾讯15年资深后台工程师吴银光的转型自述，分享了他从零切入大模型推理工程的抉择过程，给出了清晰的入门路径与自检方法，分析了AI Infra与传统Infra的异同，为有意转型AI的技术人提供了实用参考。

OpenAI下一代Astra采用「循环深度」推理方法，思考Token减少但性能提升，不过其思考过程难监控。此前业界已对「循环Transformer」有研究，该架构适合数学编程任务，Astra实力获验证，GPT - 6或即将发布。

前英伟达工程师、Sail Research 创始人 Neil Movva 认为当前 AI 行业陷“延迟陷阱”，AI 终局应是后台 Agent。他执行“算力拾荒者战略”，想降低智能成本，还指出 Transformer 架构有缺陷，互联网数据被吃光等问题。