搜索：Token压缩技术

「Token压缩技术」共找到 3511 篇相关文章

100万亿Token揭示今年AI趋势！硅谷的这份报告火了

OpenRouter和a16z联合发布《State of AI：An Empirical 100 Trillion Token Study with OpenRouter》，基于100万亿Token分析模型真实使用情况，揭示2025年AI发展趋势，如开源模型崛起、推理模型成新范式等。

Anthropic宣布Claude Pro和Max订阅用户不得将额度用于第三方Agent框架，引发各方反应。Xiaomi MiMo大模型负责人罗福莉指出，当前token计费模式难应对挑战，需更优算力使用方式，还介绍了小米MiMo Token Plan。

analysis_claude_code项目对Claude Code v1.0.33逆向工程分析，含混淆代码技术分析等。发现实时Steering机制、多Agent架构等，为AI agent系统设计实现提供技术参考，还介绍系统架构创新点。

今年 Agent 与 AIGC 应用大爆发，Gartner 预计 2027 年超 75％的 AI/ML 工作负载将用容器技术部署。但现有容器技术栈不能直接用于 AI 业务，需解决两大技术挑战。阿里云 ACK 和 ACS 协同演进，应对挑战并不断突破，还积极投入开源。

当地时间5月5日，Subquadratic公司推出模型SubQ，称是LLM智能重大突破，有1200万token上下文。数据亮眼，如在1M token场景比FlashAttention快52倍等，但也引发质疑，有人推测是对开源模型微调，官方未公布详细模型卡。

机器之心专访中科第五纪黄岩，他在具身智能狂热中是技术实干家。其有学术和工业界双重身份，技术覆盖多领域。团队解决行业数据利用瓶颈，推出超少样本大模型等成果，在商业落地表现出色。

华为诺亚方舟实验室更新面向行业应用的算法包MindScale，融合算法创新与业务实践经验。它梳理了Agent时代技术挑战，给出技术论文与昇腾代码，应对工作流维护等难题，还提升训推效率、适配国产硬件。

开源项目‘caveman-compression’能帮使用ChatGPT API或其他大模型的用户省钱。原理是删废话留关键信息，有调用OpenAI和本地NLP两种压缩方式，不同场景省钱效果不同，还介绍了使用方法。

InfoQ 专访快手科技副总裁周国睿，他分享了快手大模型推荐技术投入挑战、决策过程等。如汇报后资源投入涨数十倍，以 1/12 成本突围。还阐述推荐系统变革、技术押注及未来推荐系统突破点等观点。

华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。