「Token优化」共找到 1815 篇相关文章
不止于量化：最新综述用「时-空-构」三维视角解构KV Cache系统级优化
随着LLM向1M上下文演进，KV cache成推理服务效率核心瓶颈。墨尔本大学和华中科技大学研究者发布深度综述，用「时间 - 空间 - 结构」视角梳理KV cache优化方法，还归纳关键观察、提出开放挑战，并整理了资源库。
“如果你不用更多Token，就永远逃不出底层”：AI竞赛开始变成资源战争
文章围绕AI竞赛中资源分配问题展开，以SemiAnalysis创始人Dylan Patel经历为例，揭示Token成本疯涨、需求远超供给，介绍Anthropic模型优势，探讨具身智能成新需求点，分析竞争格局及供应链瓶颈，还预警反AI抗议。
开发者冲爆了！全球前十AI Lab无限免费，一周烧出3.12万亿Token
6月1日，全球模型榜单前十的Agnes AI无限期免费开放旗下核心全模态模型API，引发开发者热情。两周后周调用量达3.12万亿Token，本周还将升级，周五补齐语音全模态链路，开源社区也围绕其开展诸多项目。
Claude Code 省 Token 指南：慎用 1M 上下文，不开新会话或者总是开新会话都不对
文章聚焦Claude Code省Token问题，分析配额消耗快的原因，介绍提示缓存机制，给出省钱策略、操作规则，还提及委派工作及澄清误解，强调让缓存多命中、上下文少装无关内容。
3A大作！阿里ROLL团队从基建->算法->机理，推动RL4LLM全栈协同优化
阿里巴巴ROLL团队联合高校推出「3A」协同优化框架，推动「强化学习用于大语言模型（RL4LLM）」迈向新范式。Async架构提升GPU利用率，AsyPPO降低计算资源消耗，Attention机制提升训练效率与可解释性。
上交大和辉羲把LLM刻进ROM！推理性能冲2万token/s，GPU时代终结？
硅谷Taalas将大模型‘物理焊死’进芯片引关注，而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构，将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。
2.9K Star！这个工具让 Agent 查代码快了 200 倍！节省 98% Token 消耗！
当下，Agent 在代码工作流应用广泛，但在大型代码库搜索时存在精准性、Token 效率和速度问题。Semble 是 MinishLab 团队开发的面向 Agent 的代码搜索工具，能解决上述问题，还具备多方面亮点，安装和使用也简单。
华为云再掀算力风暴：CloudMatrix384超节点将升级，Tokens服务性能最大可超H20四倍
华为云在全联接大会2025发布新进展，如CloudMatrix超节点升级、首创EMS服务等。其以“算力黑土地”理念，用智算+通算策略满足产业需求，Tokens服务优势显著，还支撑多领域应用。
「上下文学习」之后，腾讯混元第二篇公开研究：精准定位RLVR训练崩溃的“罪魁祸首”Token
腾讯混元团队新研究提出异常梯度定位器 GradLoc，可将全局梯度突刺定位到具体异常 token，降低 RLVR 训练观测与分析门槛，助力解决训练不稳定问题，让模型调优更科学。
对比 Codex，免费的 AgnesCode 也能在底层算子优化任务中打的有来有回
本文实测免费AI Coding Agent AgnesCode搭配Agnes 3.0 Flash，对比付费Codex组合在DeepSeek-V3底层算子多芯片优化任务中的表现，验证免费Agent胜任底层AI工程的能力，分享实测数据与行业洞察。