推荐文章7
Mamba作者：Tokens是胡扯，Transformer有缺陷
机器之心
AI 摘要
Mamba作者Albert Gu认为Tokenization是Transformer缺陷枷锁，应摆脱它。SSM有状态记忆优势但回忆检索弱，Transformer适合关注单个token任务，不过存在归纳偏差，注意力并非万能。
阅读原文 · 机器之心
「Tokens是胡扯」，Mamba作者抛出颠覆性观点，揭露Transformer深层缺陷
Mamba作者Albert Gu在博客中探讨状态空间模型（SSM）和Transformer权衡，抛出‘Tokens是胡扯’观点，揭露Transformer深层缺陷，如分词问题、处理噪声能力弱等，还分析两类模型特点及结合优势。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文8
COLM三篇论文暴击Transformer祖传设计
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
量子位
新闻资讯8
Stripe70亿收购AI“路由器”OpenRouter
据Bloomberg爆料，16日Stripe敲定收购OpenRouter，超70亿美元。其创始人有成功经验，平台凭借统一API聚合AI模型受开发者青睐，业务增长快，已成AI行业“温度计”，Stripe借此掌控AI调用收支口。
新智元
产品应用8
DeepSeek V4 Pro上线，性能追平价仅Claude 2%
2026年8月12日，DeepSeek V4 Pro正式版上线。它是混合专家模型，规模居世界第一梯队。价格比Claude Fable 5便宜超98%，成本优势明显。其架构节省成本，API开放多模式，产品结构清晰。
DeepTech深科技
新闻资讯8
DeepSeek V4 Pro对战Grok 4.6，首测难分高下
梁文锋凌晨发布DeepSeek V4 Pro正式版，马斯克推出Grok 4.6，二者在多项评测中表现出色，直逼OpenAI和Anthropic顶尖模型，还降低了前沿智能价格。首测中，二者在真实任务场难分伯仲。
新智元