「分层缓存」共找到 265 篇相关文章
LangChain提出Agent工程化的新分层（Agent harness）
LangChain获新融资后重新定位为Agent基础设施提供商，将Agent开发分三层：Framework、Runtime、Harness。Vtrivedy提出Agent Harness概念，强调构建关键是“个性化定制基座”。Agent开发工程化成熟度在提升。
对话灵感实验室：全帧率 VLM、低成本与分层部署，业务现场不止需要炫技模型
InfoQ对话格灵深瞳灵感实验室，探讨多模态大模型下视频理解问题。指出传统视频模型抽帧处理浪费算力和信息，介绍LLaVA - OneVision - 2.0突破长视频理解瓶颈，还提及“视觉智能工坊”助力业务落地。
超越Claude 3.5和o1！8B模型靠「分层投票+测试时训练」逆袭
近日MIT研究者发现测试时训练在大模型应对复杂推理问题时，能分解任务提升回答准确率。8B的lemma3模型经此方法，在ARC和BBH数据集上性能显著提升，超Claude 3.5等。但该策略部署效率低。
Diffusion约2倍无损加速！训练-推理协同的缓存学习框架来了｜ HKUST&北航&商汤
HKUST、北航与商汤提出HarmoniCa框架，解决Diffusion模型推理慢、成本高问题。它通过SDT和IEPO机制，解决训练 - 推理脱节，在多模型上实现推理提速、质量提升，且训练推理开销低，已开源。
最强编码模型Claude 4来了！Mcp集成无需Client，扩展提示缓存增强Agent长上下文保持能力
Anthropic 昨日推出新一代 Claude 模型，包括 Claude Opus 4 和 Claude Sonnet 4，在编码、高级推理和 AI Agent 方面树立新标准，有卓越编码能力、显著提升的 Agent 能力、全新 API 功能，Claude Code 也全面上市。
刚刚！Kimi Linear横空出世，全新注意力架构：1M长文本解码速度飙升6.3倍，KV缓存砍掉75%
月之暗面推出全新注意力架构Kimi Linear，有望成下一代Agent LLM基石技术。它解决了LLMs处理长序列任务的瓶颈，性能超传统机制，还开源了核心代码。Kimi Linear的KDA模块提升了表达和硬件效率，实验表现佳。
更省 Token 的国产 Codex：ZCode，加上 DeepSeek 更夯！
介绍国产 Codex 平替 ZCode，它有 100 万用户，能接 DeepSeek，模型选择开放，缓存命中率高省 Token，插件生态完善，还介绍了安装、接入方法及多种实用功能。
跨会话不再「失忆」：openJiuwen社区开源 AutoGenetic Memory，让Agent记忆自主生长
华为openJiuwen社区开源AutoGenetic Memory，让Agent记忆自主生长。它有分层记忆体系、Auto Dreaming等设计，能提升记忆准确率，降低Token消耗，让记忆从被动存储变为可治理、共享和自我演化的核心资产。
一篇95页最新80种Deep Research系统全面综述
浙大研究深度研究系统领域，分析自2023年以来80多个相关实现，提出4维度分层分类法，全面分析4种实现架构，还阐述各维度演变进步。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。