「长序列训练」共找到 2687 篇相关文章
仅用图像也能Think：Google等提出一种视觉规划的全新推理范式！
剑桥和Google等提出并开源视觉规划范式，通过纯视觉表示规划，独立于文本。还引入VPRL框架，用GRPO后训练大型视觉模型。实验选三个视觉导航任务，VPRL表现最佳，显著优于其他方法。
无Tokenizer时代真要来了？Mamba作者再发颠覆性论文，挑战Transformer
Mamba作者之一Albert Gu参与的论文提出分层网络H - Net，用动态分块取代tokenization。Tokenization虽能压缩序列但有缺点，H - Net在多方面表现出色，或预示无需Tokenizer训练时代到来。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
Karpathy再放大招：8000行代码复现ChatGPT全栈，最低成本仅100美元，4小时跑完
Andrej Karpathy发布项目nanochat，是全栈式ChatGPT克隆体训练/推理流水线，代码约8000行，覆盖训练分词器、预训练等完整流程。介绍不同成本下模型表现，还回答网友关于架构、训练数据等问题。
世界模型原生新一代范式！极佳视界斩获全球第一后，GigaBrain-0.5M*再进化
具身世界模型新一代原生范式登场，GigaBrain-0.5M*在多真实机器人任务中数小时零失误。它依托世界模型，创新引入人在回路机制，研发采用四阶段闭环训练流程，优势显著。
数学编码超越O3-high，英伟达版「DeepSeek R1二代」推理模型开源~
Nvidia开源OpenReasoning-Nemotron系列模型合集，采用Qwen2.5架构，基于500万条轨迹训练。评测输出长度最高64K token，多版本刷新SOTA。其‘heavy’模式有独特能力，32B版在数学与编程基准超越O3（High）。
北大DeepSeek论文或预定ACL Best Paper！梁文锋署名
北大DeepSeek联合发布的NSA论文已被ACL 2025录用且评分高，有望冲击最佳论文。该技术革新传统注意力机制，提升算力效率，是长文本处理的突破。此外，张铭教授团队还有多篇论文上榜。
Linear-MoE：线性注意力遇上混合专家的开源实践
近年来，线性序列建模和混合专家（MoE）研究进步大，但两者结合研究少，相关开源实现缺失。上海人工智能实验室团队的 Linear - MoE 首次实现两者高效结合并开源技术框架，实验验证其有诸多优势。
MIT天才博士刚毕业，就被前OpenAI CTO抢走！年薪或300万起步
MIT天才博士肖光烜刚毕业就官宣加盟Thinking Machines，主攻大模型预训练。他履历耀眼，博士论文破解LLM三大难题，构建高效大模型框架。Thinking Machines薪资可观，平均年薪超OpenAI等公司。
The Batch: 899 | 更划算的推理
研究人员提出 Delethink 强化学习方法，训练大模型定期截断推理 token 至固定最大数量，以限制处理长思维链成本。经测试该模型在多方面超基线，且缓解计算成本限制，为长上下文推理提供路径。