搜索：Token压缩技术

「Token压缩技术」共找到 3511 篇相关文章

大模型思维链推理速度倍增！——RoT新框架把思维链「画」进隐空间

随着大模型规模扩展，思维链（CoT）成处理复杂推理任务标准范式，但显式CoT依赖长序列生成，隐式CoT面临优化挑战。腾讯提出RoT新框架，利用视觉编码器将文本推理步骤转为视觉嵌入，实现Token压缩与推理加速，且过程可分析。

面壁智能推出MiniCPM-V 4.6，参数约1B，性能和推理效率出色。它在多模态任务综合能力、推理速度上领先竞品，靠ViT架构改造和4倍/16倍混合视觉Token压缩实现创新，有工业验证，对开发者和普通用户意义大。

美国研究员 Brian Potter 用 AI 分析 1800 年到 1970 年代 190 项重大发明，判断最早何时能造。结果显示多数发明没迟到太久，1900 年后发明间隔缩短，75%约束是技术性的。

本文追忆技术人左耳朵耗子，讲述其创业故事，包括创业契机、方向选择等，还分享技术见解，如选技术语言、积累技术等，探讨成长问题，如996、大小公司权衡等，最后推荐书籍并谈对年龄危机看法。

AI研究员Aran Komatsuzaki实验发现，Claude的tokenizer对非英语用户不友好，印地语用户消耗token是英语的3.24倍，带来高成本、高延迟等问题。不同模型对不同语言token处理有差异，市场份额影响token效率。

华为盘古多模态生成团队推出 Selftok 技术，通过反向扩散将自回归先验融入视觉 token。它突破传统，实现因果 token、强化学习友好型 token 及纯 AR 大一统架构，实验在多方面表现优异，论文还入选 CVPR 2025 最佳候选。

全球大模型进入千万亿智元（Token）时代，OpenRouter年化智元用量突破一千万亿，对应推理支出约10亿美元。黄仁勋在GTC大会提出「智元（Token）经济学」，智元成AI时代核心经济标尺，重塑产业规则。

当下，MCP迅速发展重塑AI开发协作生态。太极平台借MCP汇聚多方能力，释放大模型潜能。文章介绍MCP技术、执行细节，探讨其与Agent、Function Calling关系，分析技术生态，还思考了MCP发展变化与局限。

文章指出当前处于传统搜索到AI搜索转型期，Google仍是主流。介绍Google和ChatGPT流程差异，给出抓取、索引、曝光优化建议，还列了该做与不该做之事，并有免费检查清单。

最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。