「上下文记忆库」共找到 1322 篇相关文章
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
产品经理也能“开发”需求？淘宝信息流从需求到上线的AI端到端实践
淘宝推荐信息流业务被“需求多、技术栈杂、协作慢”困扰，上线周期长。WaterFlow这一AI驱动的端到端开发实践，让部分需求两天内上线，产品经理也能参与。文章揭秘其落地及协作模式改变，还展示了实践效果。
大模型顿悟原理！Meta新论文说清楚了
Meta超级智能实验室（FAIR）最新论文把大模型顿悟（grokking）现象的数学机制说清楚了。提出Li2数学框架，将两层神经网络的grokking动态分三阶段，还推导了泛化缩放定律等。
节前重磅：开源旗舰模型新SOTA，智谱GLM-4.6问世
国庆前智谱AI发布新一代旗舰模型GLM-4.6并将开源，它在多方面提升，如编码、上下文长度等，评测性能佳，token消耗降低。经实测，其代码、研究、开发等能力强，成全球开源AI领域重要力量。
AI 应用开发的破局之路：字节跳动 Eino 框架实践
在 InfoQ 举办的 QCon 全球软件开发大会上，字节跳动沈桐介绍 Eino 框架在组件抽象和业务编排的创新实践。该框架以大模型为基础，解决应用开发中节点、信息流转和沉淀框架的问题，还给出开发实例，展望了未来重点方向。
超越单文件代码生成：微软发布的ZeroRepo如何规划构建3.6万行大型软件？
微软等团队提出Repository Planning Graph（RPG），开发ZeroRepo框架，实现从零生成大规模代码库。RepoCraft基准实验显示，ZeroRepo功能覆盖率81.5%，代码近3.6万行，超现有基线，为AI驱动的软件工程开辟新路径。
FlashAttention-4震撼来袭，原生支持Blackwell GPU，英伟达的护城河更深了？
在 Hot Chips 2025 上，TogetherAI 首席科学家 Tri Dao 公布 FlashAttention-4，其在 Backwell 上比英伟达 cuDNN 库中的注意力核实现快 22%，还实现两项算法改进。该技术一直迭代升级，提升了注意力计算效率。
英伟达为机器人推出懂推理的“大脑”！升级版Cosmos世界模型来了
在SIGGRAPH大会上，英伟达推出全新升级的Cosmos世界模型，重点升级规划能力与生成速度。还升级配套软硬件，如Omniverse库等。英伟达全力布局机器人领域，认为图形与AI融合将变革该领域。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
Genie 3，让幻觉持续成为现实
Google最新发布的Genie 3能从文本生成交互式世界，实现24fps实时交互，分钟级一致性，720p分辨率。它取长补短，有出色记忆能力，物理表现自然，还能让智能体完成任务。不过目前是有限预览，有不足。