搜索：低token高压缩

「低token高压缩」共找到 1790 篇相关文章

月烧35万元token、逼得Claude官方连夜限速！被全网吐槽的中国“榜一大哥”，已经靠 AI 年入千万了

X 用户“刘小排”认领月耗 5 万美元 Claude Code token。他靠 AI 年入近千万，用 AI 开发产品，还分享找需求、做产品等经验。他认为 AI 是长期机会，能放大个人能力。

随着语音应用场景普及，语音大模型响应慢成瓶颈。VITA团队开源端到端语音模型VITA - Audio，7B参数模型首次生成音频仅53毫秒，比同级别快3 - 5倍，完全开源，有超低延迟等优势。

X用户“刘小排”认领30天按200美元计划消耗5万美元Claude Code token一事。他靠AI年入近千万，用Claude Code做产品，回应网友质疑，称在规则内使用，还分享创业经验，认为AI是长期机会。

一项来自多所高校和微软研究院的研究揭示AI模型价格倒挂现象，低定价模型可能产生更高实际开销。研究聚焦8个前沿推理模型和9个主流数据集，指出推理token是成本倒挂主因，且实际开销难以预测。

本文介绍上海AI Lab与上海交大团队联合提出全新预训练任务NCP，打破传统逐词预测教条，开源全球首个8.9B规模离散隐空间基座大模型，预训练Token消耗仅需一半，收敛速度提升近一倍，下游性能显著提升，公开全部训练资产供全球研究使用。

DeepSeek开源3B参数的新OCR模型，重新思考AI处理长文本方式，用视觉token压缩文本信息。核心组件有DeepEncoder和DeepSeek3B - MoE解码器，实验效果好，成本降低，还解决了一些算法和工程问题。

百度开源的Unlimited OCR把解码器里全部attention层换成R - SWA，模型只记128个token，能一次性读完40页文档。相比DeepSeek OCR，它在精度、速度上表现更优，训练成本低，适用范围广。

国内独角兽月之暗面发布并开源 Kimi K2 模型，推出两天就在 OpenRouter 平台 token 使用量超 xAI 的 Grok 4。它成本低、性能强，编码能力追平 Claude 4，架构与 DeepSeek 相似，技术研究也多次‘撞车’。

随着大模型规模扩展，思维链（CoT）成处理复杂推理任务标准范式，但显式CoT依赖长序列生成，隐式CoT面临优化挑战。腾讯提出RoT新框架，利用视觉编码器将文本推理步骤转为视觉嵌入，实现Token压缩与推理加速，且过程可分析。

面壁智能推出MiniCPM-V 4.6，参数约1B，性能和推理效率出色。它在多模态任务综合能力、推理速度上领先竞品，靠ViT架构改造和4倍/16倍混合视觉Token压缩实现创新，有工业验证，对开发者和普通用户意义大。