「优化方法」共找到 2543 篇相关文章
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
一篇最新自演化AI Agents全新范式系统性综述
传统LLM Agent工作流固化，面对动态环境只能人工硬编码，成本高、迭代慢。此55页综述提出“Self - Evolving AI Agents”新范式，让Agent自主优化自身结构，还给出三定律、统一框架及各类优化方法。
斯坦福华人天团意外爆冷！AI用纯CUDA-C编内核，竟干翻PyTorch？
斯坦福华人团队用纯CUDA - C编写的快速AI生成内核超越PyTorch，成果登上Hacker News热榜。研究者采用KernelBench任务设置，引入新优化方法，实验显示多数最优内核在靠后轮次出现，优化策略集中在几类常见模式。
强化学习远不是最优，CMU刚刚提出最大似然强化学习
CMU等机构研究指出，现实中广泛使用的强化学习未真正做最大似然优化，只是优化其一阶近似。基于此，团队提出最大似然强化学习，实验显示其在性能与计算效率权衡上优于现有方法。
突破万次连续编辑极限！中科院提出首个理论保稳的知识保留方法
中科院信工所研究人员提出LyapLock，将连续编辑建模为受约束随机规划问题，整合排队论和李雅普诺夫优化。实验显示，它能突破万次连续编辑极限，编辑效果比主流方法提升11.89%，还可赋能现有模型。
语言反思>强化学习：伯克利新架构碾压传统RL
大型语言模型下游任务优化依赖强化学习，但计算成本高。伯克利等机构论文提出GEPA新型优化器，将LLM执行轨迹转化为诊断信号，用语言反馈替代标量奖励，仅用传统方法1/35计算量，性能最高提升19%。
PPO-Clip的「盲点」被补齐了？快手提出熵比裁剪方法，从局部约束到全局稳定的关键一跃
快手科技语言大模型团队提出熵比裁剪（ERC）方法，应对强化学习中信任域偏离问题。该方法从全局视角稳定策略分布，在多个数学推理基准实验中提升了模型性能，还与多种方法对比验证了泛化能力。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
优化搜索系统：平衡速度、相关性和可伸缩性
这篇文章基于作者在 2024 年旧金山 QCon 大会演讲，探讨搜索系统优化。以优步外卖为例，分析其在数据索引、检索和排名方面挑战，介绍优化技术及对用户体验和系统性能影响，还提及架构、分片技术等内容。
基于离散扩散模型的高效音频修复方法
数字音频时代音频易损坏丢失，传统修复法处理长间隙不佳。本古里安大学研究人员提出基于离散扩散模型的音频修复法，经MusicNet数据集实验验证，该方法在各间隙长度上表现优异。