「低token高压缩」共找到 1790 篇相关文章
Claude 最歧视的，是印度阿三
AI研究员Aran Komatsuzaki实验发现，Claude的tokenizer对非英语用户不友好，印地语用户消耗token是英语的3.24倍，带来高成本、高延迟等问题。不同模型对不同语言token处理有差异，市场份额影响token效率。
黄仁勋，开启智元（Token）时代
全球大模型进入千万亿智元（Token）时代，OpenRouter年化智元用量突破一千万亿，对应推理支出约10亿美元。黄仁勋在GTC大会提出「智元（Token）经济学」，智元成AI时代核心经济标尺，重塑产业规则。
Pogocache：开源缓存软件实现低延迟并支持多传输协议
全新开源缓存软件 Pogocache 近日发布 1.0 正式版，主打低延迟与 CPU 高效能特性，支持多种主流通信协议，宣称比其他开源缓存方案有更高吞吐量和更低延迟。还介绍了其架构、应用场景等。
华人团队终结Token危机：扩散模型数据潜力超自回归三倍
最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。
100万亿Token揭示今年AI趋势！硅谷的这份报告火了
OpenRouter和a16z联合发布《State of AI：An Empirical 100 Trillion Token Study with OpenRouter》，基于100万亿Token分析模型真实使用情况，揭示2025年AI发展趋势，如开源模型崛起、推理模型成新范式等。
罗福莉：Claude订阅封杀龙虾背后，真正的出路不是更便宜的token
Anthropic宣布Claude Pro和Max订阅用户不得将额度用于第三方Agent框架，引发各方反应。Xiaomi MiMo大模型负责人罗福莉指出，当前token计费模式难应对挑战，需更优算力使用方式，还介绍了小米MiMo Token Plan。
号称1200万token上下文的模型来了，数据亮眼但疑点重重
当地时间5月5日，Subquadratic公司推出模型SubQ，称是LLM智能重大突破，有1200万token上下文。数据亮眼，如在1M token场景比FlashAttention快52倍等，但也引发质疑，有人推测是对开源模型微调，官方未公布详细模型卡。
像原始人一样和AI对话，费用可直接砍掉40%
开源项目‘caveman-compression’能帮使用ChatGPT API或其他大模型的用户省钱。原理是删废话留关键信息，有调用OpenAI和本地NLP两种压缩方式，不同场景省钱效果不同，还介绍了使用方法。
独立开发者必看，前端人想做低代码？先把这个 5k star 可视化拖拽编辑器 Demo 跑起来
`visual-drag-demo`是开源可视化拖拽编辑器Demo，偏前端与低代码方向。它把编辑器必备功能做成教学项目，适合想做搭建器、可视化配置等的人快速摸清实现方法，功能丰富，学习成本低。
模型砍掉一大半，准确率反升15%！华科&阿里安全新研究实现ViT近乎无损的类特定压缩｜ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。