「Token压缩」共找到 863 篇相关文章
Token 压缩率飙升60%：大模型分词告别贪心合并
当前大模型效率优化多聚焦降低单位Token计算存储开销，本文解读arXiv新预印论文，针对传统BPE分词的固有局限，提出CNF-MCE分词框架，可大幅提升Token压缩率，开辟大模型效率优化新路径。
“你以为买的是 DeepSeek Flash，到手可能是 1.5 bit 缩水版”：Pi 核心贡献者谈 AI Token 黑箱
Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 播客对谈指出，当前 AI token 市场不透明，模型公司或失控。如买 token 像买成分不明商品，模型训练目标不明，且 Agent 行为边界在扩展，问责制缺失。
大神周末开源省token野路子，claude fable5账单砍掉6成
外网大神周末开源插件，将模型上下文等渲染成图片，可让账单降低59% - 70%。原理是图片token只与像素尺寸有关。此前因模型识图能力差难落地，fable5证明其极限省钱且效果保留。
你奶奶也能看懂：DeepSeek-OCR的秘密。
本文介绍DeepSeek-OCR，它并非普通OCR工具，而是用“上下文光学压缩”将大量文本信息转为少量视觉Token。其架构含编码器和解码器，压缩效果惊人，重新定义AI“记忆”，或改变AI认知方式。
1M 上下文时代太费 Token，告诉你我的 Coding Agent 省钱方法
当下GPT-5.5等模型原生支持1M上下文，虽能支撑长任务，但易被噪音干扰且费Token。作者以Claude Code为例，介绍做好会话管理的多种省钱方法，如根据任务选择会话策略、利用rewind功能等。
逼AI当山顶洞人！Claude防话痨插件爆火，网友：受够了AI废话
一个叫「caveman」的Claude Code插件在Hacker News爆火，冲破2w星。它核心是条prompt，删掉冠词等废话，号称省75%输出token。但它不压缩模型后台推理token，真实成本节省存疑。
4.5k星星爆火！用图片压缩Fable 5上下文，成本大幅降低，终于用得起这个模型了
Fable 5在AI圈爆火，但使用成本比其他型号贵至少5倍。pxpipe项目把适合压缩的大段文本渲染成PNG图片，交给多模态模型读取，能大幅降低成本，还能增加上下文长度。
1.8亿token，Clawdbot是这么吞掉的~
截止发文，开源AI Agent项目Clawdbot（已更名OpenClaw）超134k Star，其吞噬token特性引关注。文章从Code层面拆解高Token消耗根因，分析难以避免的问题，还给出控制Token账单的方法。
Google 发了个压缩算法，内存砍 6 倍，速度快 8 倍，精度零损失
Google Research发布TurboQuant压缩算法，将在下月ICLR 2026正式发表。该算法把大模型的KV Cache压缩到3 bit，内存降6倍、速度快8倍且精度零损失，解决了传统算法的压缩开销问题。
Meta&CMU：Token级LLM协同路由新范式
Meta AI、CMU等联合推出FusionRoute，是让多个大模型在token级协作的新范式。它能在每个token位置精准选专家，自带“急救包”。经实验验证其高效，也指出了待研究的方向。