算法论文8

剑桥MTLA：推理加速显存减半

机器之心2025-06-11

AI 摘要

剑桥大学：提出MTLA注意力机制，结合时空压缩策略，推理加速5倍、显存减至1/8，在多任务表现出色，有望成自注意力模块替代方案，代码已开源。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

字节发现DeepSeek弱点实测V4.1结果不同

本文报道字节Seed团队发现DeepSeek V4基础模型因分块KV压缩存在周期性相位敏感性弱点，作者复刻实验实测现役DeepSeek V4.1-Flash，讨论了长上下文评测的盲区，新版本弱点已明显减轻。

Perplexity核心搜索面向大模型检索，原有存储Amazon DynamoDB在高流量下存在延迟高、成本不可控问题，两名工程师两个月用Rust写出4万行自研CobbleDB，迁移后性能成本均大幅优化，后续计划开源。

本文介绍发表于Nature Machine Intelligence的最新研究，系统探究语言模型与人脑推理表征的对应关系，验证人脑信号可引导提升语言模型推理鲁棒性，为脑启发AI提供了新研究路径。

当前大语言模型长期记忆方案均基于相似度检索，存在结构性盲区，无法在无字面/语义相似时召回关联记忆。腾讯团队提出T-Mem，实现AI联想回忆，已被EMNLP 2026接收，代码开源并上线QQ AI伙伴。