「长序列」共找到 708 篇相关文章
OpenClaw带火AI记忆，DeepMind用混合记忆把3D重建拉到近2万帧
近期，全球爆火的 Agent 私人助手 OpenClaw 接连更新，其长期记忆能力获关注。谷歌 DeepMind 联合加州大学伯克利分校提出 LoGeR 架构，将 3D 重建扩展到极长序列，在多数据集上表现超越先前方法。
Transformer祖传设计遭暴击，COLM顶会三篇论文发难
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
提速30倍，Meta重新定义了新一代RAG！
LLM时代，RAG成知识密集型任务标准范式，但处理长上下文时面临延迟高、内存贵问题。Meta超级智能Lab针对RAG特殊结构优化，提出REFRAG框架，有独特训练策略，实验效果显著。
刚刚，Meta最强旗舰碾压GPT-6和Opus！一夜杀回世界前三
Meta发布两款全新旗舰大模型Muse Wonder与Muse Wonder Full，多项基准测试反超GPT-6 Astra和Claude Opus，长任务编程、专业能力测试表现领先，依托吉瓦级超算训练，已正式上线开放服务。
中学生就能看懂：从零开始理解LLM内部原理【十二】｜位置嵌入 - 给模型装上"GPS"
文章指出Transformer对词顺序不敏感，引出位置嵌入概念。介绍经典的函数编码、可学习位置嵌入法及新主流RoPE，还提及为让模型处理长文本，在RoPE基础上用PI和YaRN等扩窗技巧。
The Batch: 899 | 更划算的推理
研究人员提出 Delethink 强化学习方法，训练大模型定期截断推理 token 至固定最大数量，以限制处理长思维链成本。经测试该模型在多方面超基线，且缓解计算成本限制，为长上下文推理提供路径。
刚刚，SpaceXAI最强Grok 4.7发布！价格杀疯，跑分令人失望
本文报道SpaceXAI发布新款大模型Grok 4.7，该模型定位面向编程与知识工作，主打速度翻倍、价格仅为同类一半，强化长任务处理能力，跑分表现引发网友争议。
ICML 2026 现场｜九篇 Spotlight 论文，透视 AI 最前沿
7月7日，ICML 2026正会首日，雷峰网精选九篇Spotlight论文，涵盖生成模型、智能体系统等多领域。如SDEVI框架解决不规则时间序列生成难题，MASpoB让多智能体提示优化可行等。
GPT-5的所有传言，以及，Sora 2？
OpenAI今晚1点举办直播，GPT - 5将亮相。发布前关键信息汇总，包括直播时长变长、GitHub泄露四个版本、三档定价策略、突破人类基准测试等，还或同步发布Sora 2。
GPT-5.2连肝7天，300万行代码造出Chrome级浏览器
Cursor的CEO让GPT - 5.2连续运行一周，产出300万行代码，从零构建Chrome级浏览器。还介绍不同模型长任务表现、多智能体协作架构，指出这将颠覆软件开发经济学。