算法论文7
Google ATLAS:处理千万token输入的新架构
DeeplearningAI
AI 摘要
Google团队设计“记忆模块”集成到ATLAS,替代注意力层处理超长输入。测试中ATLAS在长上下文任务表现佳,尤其一千万token输入时准确率高,但小模型大规模表现待察。
阅读原文 · DeeplearningAI
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS,能处理一千万token输入。它替代注意力层,训练后在长上下文任务中表现佳,但小模型,大规模表现未知。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文8
人脑信号可引导大语言模型鲁棒推理
本文介绍发表于Nature Machine Intelligence的最新研究,系统探究语言模型与人脑推理表征的对应关系,验证人脑信号可引导提升语言模型推理鲁棒性,为脑启发AI提供了新研究路径。
机器之心
产品应用8
Claude Opus 5.5 省token四步法
本文分享网友总结的实用优化方法,针对Claude Opus 5.5浪费token的问题,给出4个可落地步骤,帮助降低大模型调用成本
AI工程化
开源动态9
腾讯发布T-Mem 让AI学会联想回忆
当前大语言模型长期记忆方案均基于相似度检索,存在结构性盲区,无法在无字面/语义相似时召回关联记忆。腾讯团队提出T-Mem,实现AI联想回忆,已被EMNLP 2026接收,代码开源并上线QQ AI伙伴。
机器之心
新闻资讯8
汤森路透推出领域定制大模型
本文是DeeplearningAI《The Batch》的最新报道,汤森路透推出法律、新闻、金融领域定制大语言模型Thomson,基于Qwen构建,性能优于多款通用大模型,小版本将开源供非商业使用。
DeeplearningAI