「遗忘问题」共找到 3276 篇相关文章
长上下文快2.9倍，解码快6倍：Kimi 用线性注意力实现性能与效率双突破
月之暗面团队的Kimi Linear模型，是混合线性注意力架构，核心是Kimi Delta Attention模块。它解决线性注意力的记忆及遗忘问题，在多任务测试表现出色，还开源相关资源，推动高效长上下文模型研究。
只训练数学，却在物理化学生物战胜o1！新强化学习算法带来显著性能提升，还缓解训练崩溃问题
上海创智学院、上海AI Lab的MM - Eureka系列工作提出新强化学习算法CPGD，缓解训练崩溃问题，提升性能。还构建多模态强化学习框架，推出MMK12数据集和MM - PRM模型，开源相关成果。
直播预约 | LightMem：面向大模型的轻量化可插拔记忆系统
本报告聚焦大语言模型长期记忆构建与轻量化机制。现有外部记忆系统有记忆臃肿、组织低效、更新代价高问题。为此提出LightMem架构，能为大模型提供轻量、高效、可扩展记忆组件。
Transformer已死？DeepMind正在押注另一条AGI路线
谷歌团队借鉴人类联想记忆，提出嵌套学习，解决AI「灾难性遗忘」问题。强调优化器与架构协同进化，构建联想记忆系统。HOPE架构在多任务表现出色，或开启AI从被动训练到主动进化大门。
Thinking Machine新研究刷屏！结合RL+微调优势，小模型训练更具性价比了
Thinking Machine新研究提出On - Policy Distillation方法，结合RL与微调优势。该方法让学生模型每步由教师模型指导，用KL散度评估分歧。实验表明其训练小模型性价比高，还能解决AI“灾难性遗忘”问题。
LLM会梦到AI智能体吗？不，是睡着了也要加班
新智元报道，Bilt部署数百万智能体，让AI在“睡眠”中整理记忆，评估互动，决定信息存储位置。AI记忆与人脑差距大，Bilt和Letta实验展现“主动智能”雏形，提高模型表现。行业也在突围AI记忆缺陷问题。
字节开源终身记忆多模态智能体，长时记忆+RL，实测超Gemini‑GPT4o！
字节开源全球首个带终身记忆更新的全多模态智能体M3 - Agent，给其装上‘长期记忆’大脑。它构建实体记忆图谱解决现有Agent问题，架构含两个流程，代码实现有特色，跑分数据出色。
肖涵：2026 年的 AI 搜索就是智能体记忆 | Elastic 中国 AI 搜索技术大会
2026 年智能体记忆成 AI 基建新战场，虽概念不新但获前所未有的紧迫感。因智能体任务变长但记性差，加记忆后又有记不住该记、忘不掉该忘的问题，遗忘成最大难题，产品分三条技术路线。
谷歌开始肢解DeepMind，数个团队被划归总部
DeepMind换帅一周后震荡持续，谷歌将拆分它，把部分非技术团队转入谷歌汇报体系。谷歌联合创始人谢尔盖·布林重新介入Gemini。此外，Gemini因算力、内讧、官僚等问题落后。
一年吃掉一块固态硬盘，Codex日志bug被骂「劣质软件」
OpenAI旗舰编程工具Codex因日志Bug，一年写入量达640TB，耗尽硬盘寿命。该问题4月就有反馈，拖两月才处理，仅减少约85%写入。Codex类似问题至少9个，AI编程工具质量引质疑。