「低熵token」共找到 1652 篇相关文章
Meta&CMU：Token级LLM协同路由新范式
Meta AI、CMU等联合推出FusionRoute，是让多个大模型在token级协作的新范式。它能在每个token位置精准选专家，自带“急救包”。经实验验证其高效，也指出了待研究的方向。
大部分token根本不该重复计算，不止于KVCache
斯坦福研究显示，AI Agent每次调用62%内容重复，现有前缀缓存虽有优化但天花板低，阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立，解决性能问题，其CacheBlend技术复用缓存，适配多引擎和存储后端。
Token 压缩率飙升60%：大模型分词告别贪心合并
当前大模型效率优化多聚焦降低单位Token计算存储开销，本文解读arXiv新预印论文，针对传统BPE分词的固有局限，提出CNF-MCE分词框架，可大幅提升Token压缩率，开辟大模型效率优化新路径。
最低 306KB，这款低延迟语音检测神器太绝了！
语音交互中，VAD至关重要。新开源的TEN VAD能精准识别语音起止，是替代WebRTC VAD和Silero VAD的优选。它低延迟、高准确率、极致轻量，已被Kaldi集成，还能跨平台部署，使用方便。
阿里成立Token Hub事业群，打碎钉钉，做成龙虾！
阿里巴巴成立Alibaba Token Hub事业群，首席执行官吴泳铭挂帅。旗下设5大事业部，目标是创造、输送和应用Token。还发布企业级旗舰应用悟空，重写底层架构，打造专属文件系统与Skill生态，展示多款智能硬件。
「Tokens是胡扯」，Mamba作者抛出颠覆性观点，揭露Transformer深层缺陷
Mamba作者Albert Gu在博客中探讨状态空间模型（SSM）和Transformer权衡，抛出‘Tokens是胡扯’观点，揭露Transformer深层缺陷，如分词问题、处理噪声能力弱等，还分析两类模型特点及结合优势。
腾讯无极低代码平台打开MCP之外的新思路：多模态聊天
腾讯无极低代码平台提出‘前端多模态智能’概念，让AI输出内容更多样，可嵌入交互页面片。它还给出四步配置法实现‘多模态聊天’，与MCP形成互补，能增强信息交互和用户掌控感。
吴恩达新作：87%推理token用不着，丢掉反而快3倍
吴恩达新作Prefix Sliding指出，模型推理时丢弃中间已贬值token，只保留前缀+滑动窗口，无需训练可提速3倍，配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。
阿里AI重组：集团CEO吴泳铭亲征！「Token为王」全面决战ASI
阿里宣布成立全新的Alibaba Token Hub（ATH）事业群，由CEO吴泳铭挂帅，收拢通义千问等团队。这标志阿里AI战略转向，告别技术至上，聚焦B端商业变现与算力应用，围绕Token构建工业化流水线。
Jev 的「百亿补贴」迷局：既然「极省」为何还要狂送 1.2 亿 Token？
主打省Token的AI模型Jev，近日大手笔向用户发放1.2亿Token额度，本文深入分析这一反常操作背后的商业布局，拆解其抢占Agent小决策判断节点的底层逻辑。