「每Token成本」共找到 2042 篇相关文章
大部分token根本不该重复计算，不止于KVCache
斯坦福研究显示，AI Agent每次调用62%内容重复，现有前缀缓存虽有优化但天花板低，阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立，解决性能问题，其CacheBlend技术复用缓存，适配多引擎和存储后端。
tokens烧钱太快？试试这个四层模型组合
ClaudeCode等智能体兴起，开发者面临tokens不够用、主流模型降智问题。网络给出多模型策略缓解，网友将2026年主流模型分四档，还介绍了实际路由策略、部署建议，指出单模型依赖危险。
月吞100万亿Token！AI中转站OpenRouter赚爆了
OpenRouter宣布完成1.13亿美元B轮融资，估值达13亿美元。它每周处理25万亿个tokens，全球用户超800万。其提供AI推理统一控制层，解决企业多模型管理难题，开源模型崛起使其价值凸显。
免费开源低成本的3D动作捕捉系统
FreeMoCap是无标记点3D动作捕捉系统，用普通USB摄像头就能实现研究级全身动作捕捉，支持单/多相机模式，输出3D骨骼数据，可导入Blender等工具，具有低成本、开源可扩展等优势。
LLM算力告急？把文本变图片，推理成本直接减半！
大型语言模型处理长文本时计算成本高，本论文探索‘文本即图像’输入压缩策略，将长文本渲染为图像输入多模态模型，可减少近一半令牌，且任务性能不受显著影响，在多任务中验证了其有效性。
Tokenization谢幕？H-Net登场：Mamba作者新作正面硬刚Transformer
「Mamba」作者之一Albert Gu在新Paper提出新技术，实现动态分块机制，嵌入H - Net可替代传统流水线。在多方面实验中，H - Net性能优于基于BPE token的Transformer模型。
成本降70%！清华、阿里通义带来智能体长程任务新解法
AI智能体处理长程任务常遇上下文超载问题。清华与阿里通义研究人员提出MemPO算法，赋予大模型主动管理记忆能力，准确率提升，计算资源消耗降近七成，不过评价机制有局限。
成本下降 90%后，Figure 的下一步是机器人「自己造自己」？
近期，海外人形机器人公司 Figure 首席执行官 Brett Adcock 接受访谈，围绕「Figure 的核心技术与产品迭代」，就全栈端到端神经网络架构、数据壁垒与垂直整合等核心议题，阐述其通用人形机器人技术路线、产业逻辑与商业化实践。
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
北大光华院长最新对谈：未来奖学金可以用 Token 发
5月12日晚，北大光华管理学院院长田轩与Kimi总裁张予彤就‘AI时代的边界探索与人才机遇’展开对谈，探讨了AI带来的新工作、学生培养、企业管理、人才招聘等问题，张予彤提出诸多独到见解。