「长上下文」共找到 1170 篇相关文章
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
MIT这篇RLM论文，给出了Scaling的另一种可能~
当大家普遍认为解决长上下文问题要靠扩大模型上下文窗口时，MIT 最新的 RLM 论文提出新路径。其 code 已开源，能实现无界上下文处理，可让任意大语言模型处理 10 万 +token。
我如何用 Codex 在 5 天内"找回"丢失的源代码
作者早年写的 Electron 画图程序源码丢失，只剩编译版本。受 OpenAI 博客启发，用 Codex 逆向还原，5 天得到能运行的 TypeScript 代码。过程中解决了 Codex 删减内容、上下文有限等问题，还分享了经验。
AI记忆革命爆发！Clawdbot如何像大脑般记住一切
2026年初开源个人AI助手Clawdbot引爆社区。它可本地运行、集成聊天平台、自主处理任务，有长时记忆和任务执行能力。AI研究工程师Manthan Gupta复盘其记忆机制原理，涉及上下文、记忆存储、搜索等内容。
万帧实时！流式3D重建天花板，被国产开源模型打破了
蚂蚁正式开源 LingBot-Map，这是基于几何上下文 Transformer 的纯自回归流式 3D 重建基础模型。它能在恒定内存下实现超万帧长视频实时三维重建，处理速度约 20 FPS，在多基准测试中超越现有流式方法。
Sora2还在5秒打转，字节AI生视频已经4分钟“起飞”
字节和UCLA联合提出Self - Forcing++方法，无需更换模型架构或重收集数据集，就能生成分钟级长视频，最长达4分15秒，高质量且开源，在长、短时长生成上性能领先。
Anthropic：怎么才能控制模型的行为，做好Agents?
Anthropic发关于AI Agents博客，围绕如何配置上下文让模型输出期望行为展开。指出上下文是有限资源，有Context Rot现象，介绍了上下文工程概念、构成，还提及即时策略、长时间任务处理方法及实践建议。
ICML 2025 | 清华、上海AI Lab等提出傅里叶位置编码，多项任务远超RoPE
长文本能力对语言模型重要，但现有模型训练窗长有限，流行的RoPE也有局限。清华、上海AI Lab团队用傅里叶分析解读其不足，提出傅里叶位置编码FoPE，提升长文本泛化能力，实验表现超RoPE。
金山、Zilliz、腾讯、灵犀量子专家齐聚，揭秘 AI 记忆、RAG 演进与自我进化的工程实践 | AICon
2025 年构建复杂 AI 系统面临记忆缺失、检索瓶颈、认知固化等系统工程挑战，Context Engineering 是关键。AICon 北京站邀金山、Zilliz、腾讯、灵犀量子专家，分享上下文工程技术实践。
不想买几百刀的 ChatGPT Pulse？这款开源替代 + 本地部署可以白嫖试试
MineContext是开源跨平台桌面应用，可把电脑操作变成“上下文记忆库”。它能自动收集信息、生成总结和待办等。有自动截屏、生成总结等功能，使用体验好，适合常忘工作内容的信息工作者。