「状态连续性」共找到 187 篇相关文章
跨层压缩隐藏状态同时加速TTFT和压缩KV cache!
论文 UNCOMP 被 EMNLP 2025 主会接收,提出高效推理框架,用截断矩阵熵解释 LLM 稀疏化,据此设计 UNCOMP 框架,通过压缩隐藏状态优化 KV Cache,实现计算与内存联合优化,实验效果显著。
刚刚开源不到1MB大小,每个AI程序员都该装!
当跑多个 AI Agent 时,很难第一时间了解每个 AI 状态。刚开源的 `abtop` 项目运行在终端,能实时展示 Claude 和 Codex 会话状态,不依赖 API Key,功能实用且安装方便。
Emu3.5:能够原生预测下一状态的多模态世界模型,媲美Nano Banana
北京智源研究院推出多模态世界模型Emu3.5,能原生预测视觉和语言下一状态。用超10万亿token数据预训练,后经强化学习训练。团队提出DiDA提升推理效率,其性能媲美Nano Banana,项目已开源。
上百个Agent,该怎么管?清华团队新思路:重做Session
当Agent数量增多,管理难题凸显。清华与中大团队开源OpenRath,以Session为核心,让多Agent共享状态。它借鉴PyTorch,解决了证据存储、状态流动等问题,使Agent集群管理更高效。
CUTLASS CuTe GEMM细节分析(二)——TiledCopy与cp.async
文章深入分析TiledCopy,从参数理解、访存连续性等角度展开。介绍Tiler_MN和TiledLayout_TV意义及构造,指出访存连续性影响性能,还说明了基于cp.async构造TiledCopy的要点,如ValLayout选择和Layout限制。
2.6K Star!GitHub 上这个开源桌宠,用一只小螃蟹就能监控你的 AI 编程助手!
介绍开源桌宠 Clawd,它是为 AI 编程助手设计的实时状态监控器,有 12 种萌趣动画状态,支持 10+ 主流工具,具备权限审批等实用功能,零配置开箱即用。
扩展外部测试时Scaling Law,中关村学院新发现:轻量级验证器可解锁LLM推理最优选择
文章聚焦大语言模型‘测试时扩展’,指出内部方法接近瓶颈,外部方法的传统实现有缺陷。提出 TrajSelector 策略,用轻量级打分模型复用隐状态打分,训练无需手动标注,实验显示性能增长稳定。
Agent 看板门禁:构建 Agent Team 的 Harness 工程防御体系
文章以 Routa 看板项目卡为例,阐述 Agent Team 的 Harness 工程防御体系。指出任务完成不等于交付结束,强调 Gate First 理念,即先确认可验证状态再推进协作,还提及运行时边界等重要概念。
Anthropic:大模型开始意识到自己在想什么!
Anthropic的Jack Lindsey论文《Emergent Introspective Awareness in Large Language Models》对大模型做神经科学受控实验。发现Claude Opus 4/4.1能感知内部念头,区分内外状态,通过检查内部状态一致性判断输出意图。
牛津、NUS提出下一代世界模型方向:心智世界模型来了
牛津大学和新加坡国立大学研究团队提出心智世界建模(MWM)通用框架,将心智变量纳入世界状态。还实现基准系统 MENTIS 验证其有效性,实验表明 MWM 对预测人类决策必要,瓶颈是状态转移模拟能力不足。