返回首页
算法论文9

LSA让超长上下文单层提速22.7倍

机器之心
AI 摘要

Prefrontal AI 与苏黎世联邦理工学院开源 LSA,用分层索引寻找相关内容;千万 token 测试中,GLM-5.3-Flash单个注意力层预填充快22.7倍。

整机效果:首个Token等待从约7.5降至3.4分钟

边界:单层提速幅度不能直接当成整模型提速

阅读原文 · 机器之心
千万token下,比DeepSeek式稀疏注意力再快22倍
Prefrontal AI 与苏黎世联邦理工学院开源 LSA,用分层索引寻找相关内容;千万 token 测试中,GLM-5.3-Flash单个注意力层预填充快22.7倍。

相关文章