「零Token部署」共找到 1612 篇相关文章
Headroom：Netflix 工程师开源的上下文压缩工具，省 token 还是烧 token？
Netflix工程师Tejas Chopra开源Headroom，定位为AI Agent的上下文压缩层，压缩工具输出等内容，有可逆压缩等特性。官方数据显示节省token效果好，但微软工程师实测结果中性偏负面。
AI编程Token消耗降低神器：RTK（Rust Token Killer）实战指南
文章介绍RTK（Rust Token Killer），它能在CLI命令输出到LLM上下文前智能过滤压缩，节省60 - 90%Token。文中说明了其原理、特性、压缩策略，还给出安装配置步骤、实测数据及使用建议。
Token洪流的转向：当AI Agent成为Token消耗的主宰，什么样的推理服务基础设施才是刚需
Token消耗量转移，AI Agent成Token消耗主宰，大模型推理服务底层逻辑重塑。文章介绍AI Agent时代范式转变、对推理基础设施的需求，还阐述了为其打造的AI Serving Stack架构及优势，它获2025年度相关卓越奖。
吴恩达新作：87%推理token用不着，丢掉反而快3倍
吴恩达新作Prefix Sliding指出，模型推理时丢弃中间已贬值token，只保留前缀+滑动窗口，无需训练可提速3倍，配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。
黄仁勋要发Token当工资！硅谷兴起刷量大赛，一人一周烧掉33个维基百科
硅谷兴起Tokenmaxxing（Token刷量大赛），AI公司追踪员工token消耗，招聘、考核都与token相关。风投者费用半年内从月付200美元涨至年烧10万。黄仁勋提议用token作薪酬，同时也有对刷量竞赛的质疑。
Token 降价的尽头，是一度电的账
AI进入算账阶段，Token成本成系统工程。优刻得董事长季昕华认为Token终局是电力，降本需选好数据中心、用国内模型等。企业要解决AI投入产出衡量问题，Token需求会持续增长，优刻得定位中立服务平台。
无Tokenizer时代真要来了？Mamba作者再发颠覆性论文，挑战Transformer
Mamba作者之一Albert Gu参与的论文提出分层网络H - Net，用动态分块取代tokenization。Tokenization虽能压缩序列但有缺点，H - Net在多方面表现出色，或预示无需Tokenizer训练时代到来。
刚刚，北京建了一座AI工厂：目标10万P算力，日产10万亿Token！
九章云极在2026全球智算科技峰会发布AI工厂战略，含训练和Token工厂，目标10万P算力、日产10万亿Token。用DCU度量投入，Token度量产出，重构智能生产与交付体系，适配不同企业需求。
全国首部！AI 大模型私有化部署标准起草单位 / 个人征集启动！
国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和起草人。该标准全流程覆盖、多方面融合、三方协作，能解决企业部署痛点，构建安全可信生态。
全国首部AI大模型私有化部署标准，公开征集起草单位和个人！
近期AI政策频出，企业对人工智能应用需求攀升，倾向私有化部署，但面临诸多问题。国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，现征集起草单位和个人。