「KV - Cache 优化」共找到 1263 篇相关文章
揭秘LLM“思考”之谜：推理即“梯度下降”，元学习框架解构训练过程，还给优化提供新思路
上海AI Lab团队提出RaML框架，从梯度下降和元学习角度揭示LLM“思考”机制。通过实证验证推理轨迹作为参数更新的合理性，还对比不同训练策略，指出RaML为优化LLM性能提供新思路。
CNSNS｜西工大曹文博、张伟伟：克服优化求解器中的损失条件数瓶颈：一种良性损失函数
基于优化的偏微分方程求解方法受关注，但实际慢于经典迭代求解器。本文从条件数角度审视效率瓶颈，指出标准MSE损失导致条件数平方放大、减缓收敛。提出稳定梯度残差损失SGR，在收敛速度与稳定性间建立平衡，实验验证其有效性。
微信自研高性能推理计算引擎 XNet-DNN：跨平台 GPU 部署大语言模型及优化实践
本文深入解析微信自研的高性能推理计算引擎 XNet-DNN，介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力，在多方面超越现有解决方案，还给出了详实对比实验数据。
AI Agent的上下文工程：构建Manus的经验教训
上下文工程是AI智能体的“系统一”，决定其速度、恢复力与扩展边界。Manus通过试错与用户验证，给出可复用经验，如利用大模型“上下文学习”能力、关注KV - cache命中率等。
来自 Manus 的一手分享：如何构建 AI Agent 的上下文工程？
Manus 公司联合创始人季逸超分享为 Manus 搭建上下文工程的经验。文章探讨构建 AI 智能体时的关键抉择，给出围绕 KV - Cache 设计、通过掩码约束行为等构建原则，助开发者少走弯路。
Google 发了个压缩算法，内存砍 6 倍，速度快 8 倍，精度零损失
Google Research发布TurboQuant压缩算法，将在下月ICLR 2026正式发表。该算法把大模型的KV Cache压缩到3 bit，内存降6倍、速度快8倍且精度零损失，解决了传统算法的压缩开销问题。
LLM近期重大架构进化一览：从Gemma 4到DeepSeek V4
近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。
ASO是什么意思？ASO目标与工作内容，ASO常见误区（基础篇）
ASO（应用商店优化）的精髓在于通过对产品特性的分析与用户群体标签的判断，挑选相关度高的关键词，提升App的覆盖、曝光、转化，从而获取更多用户。它不仅包括关键词搜索排名优化，还涉及榜单排名、转化率、推荐位等优化，提升App在应用商店的自然下载量。
ETT：打破原生多模态学习视觉瓶颈，重塑视觉tokenizer优化范式
本文由多机构联合完成，针对传统视觉 tokenization 方法优化与下游任务训练割裂问题，提出 ETT 调优方法。它实现联合优化，在多模态理解、生成、重构任务表现出色，虽有局限但带来新突破。
分享一个谷歌和百度都优化得不错的网站
一个域名注册于2008年的网站，2020年5月才真正启动，却在谷歌和百度的优化上做得风生水起。它的流量主要来自搜索引擎，谷歌收录484万条，百度收录193万条。这个网站通过子域名提升权重，并巧妙地使用分类而非重复关键词来优化内容，使其在搜索结果中排名靠前。