算法论文7

谷歌：Transformer与RNN合体解锁超长上下文

机器之心2026-04-17

AI 摘要

谷歌研究团队：提出 Memory Caching 技术，结合 Transformer 与 RNN 优势，可处理长文本、降推理成本。实验表明，该技术提升循环模型性能，虽未超 Transformer，但为非 Transformer 架构发展铺路。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

阶跃发布首款Agent手机STEPX Neo

本文作者实测体验阶跃终端推出的首款大模型原生Agent手机STEPX Neo，介绍了产品设计、原生Agent系统能力、创客开发生态与系统级安全方案，公布了产品定价与用户福利。

本文报道Jeff Dean投资的AI初创公司推出DeepRSI新基准，测试大模型递归自我改进能力，设置48小时无网络自主科研挑战，最终Kimi K3拿下国产第一、开源第一，成果引发行业关注。

当前大模型效率优化多聚焦降低单位Token计算存储开销，本文解读arXiv新预印论文，针对传统BPE分词的固有局限，提出CNF-MCE分词框架，可大幅提升Token压缩率，开辟大模型效率优化新路径。

本文爆料Anthropic风控动态，上半年封禁1140万疑似数据蒸馏账号，申诉胜诉率仅10%，大量正常用户被误杀，同时对比了中外大模型的使用体验差距。