「长序列训练」共找到 2689 篇相关文章
1万tokens是检验长文本的新基准，超过后18款大模型集体失智
Chroma团队研究发现，将上下文扩展至1万tokens，18款主流大模型集体“失智”，“智商”非均匀下降，在一些节点会断崖式下跌。研究还设计四项对照实验，证明LLMs性能随输入长度增加显著且非均匀下降。
MIRIX重塑AI多模态长期记忆：超Gemini 410%，节省99.9%内存，APP同步上线
UCSD和NYU团队推出开源的MIRIX，全球首个多模态、多智能体AI记忆系统。它表现亮眼，在多任务中超越传统方法，有类人记忆系统等特点，还上线Mac端应用，开启大模型从对话生成到长期记忆驱动心智的新周期。
强化学习也能预训练？效果可提升20倍，华人新作引爆RL新范式!
伯克利团队提出新方法InFOM，不依赖奖励信号，能在多任务中超强迁移与推理。在36个基于状态和4个基于图像的任务测试中，InFOM表现出色，在jaco任务上改进达20倍。
TACL 综述 | 别只卷架构了——长文本模型的能力天花板，其实是数据决定的
该 TACL 综述首次从数据视角审视长上下文语言模型，指出长上下文能力本质是数据驱动。它建立分类体系，明确高质量长文数据条件，给出核心能力的数据配方与评估法，还整理数据集和基准，提出待解问题。
肝脏也能“按需定制”？科学家研发新型植入物，让肝组织在体内自己长
哈佛大学怀斯研究所团队研发“BOOST”策略，结合组织工程与合成生物学，创造可在体内远程接收成长指令的工程化肝脏构建体，在动物实验中实现植入后按需扩增，为解决肝脏移植供体短缺带来新希望。
GitHub 上 6.4 万标星的 Hermes Agent，比 OpenClaw 响应快太多！还会成长进化！
AI Agent领域热闹，OpenClaw有响应慢等问题。Nous Research今年2月开源的Hermes Agent爆火，获64.8K Star。它是自学习型AI智能体，有六大核心特性，支持换模型，更新快，还支持一键安装。
深度机智和他们的另一条路：用人类第一视角数据训练基座模型｜甲子光年
3月27日，深度机智联合推出具身通用智能基座模型系统PhysBrain 1.0，引入人类第一视角数据，解决传统模型问题。其创始人陈凯等坚持用此数据构建模型，突破传统，引领行业新方向，且中国在具身智能领域或借此建立自主技术体系。
Claude Code 更长更快！Agent能自己管项目了！从 Todo 升级到 Task
上周Claude Code团队更新任务清单系统，从「记事本」升级为「项目管理系统」。因模型能力增强，需求变复杂，原TodoWrite无法满足，新Task系统解决了任务依赖协调问题，支持复杂项目。
拒绝Reward Hacking！港科联合快手可灵提出高效强化学习后训练扩散模型新范式
使用强化学习微调扩散模型时，常面临Reward Hacking和KL正则化阻碍探索收敛的问题。港科等团队提出GARDO框架，通过门控自适应正则化和多样性感知优化，解决痛点且全面开源。
惊天丑闻！OpenAI档案曝光，奥特曼捏造YC董事长身份，虚伪真面目被揭穿
OpenAI奥特曼亲自透露GPT - 5今夏发布，还谈模型版本等问题。但同时「The OpenAI Files」曝光，揭其劣行，如捏造身份、利益输送等，还指出OpenAI重组等四大问题。