「省Token策略」共找到 1569 篇相关文章
Skills驱动推理新范式,清华&北大:Token立省59%,准确率不降反升
当前推理模型虽准确率高,但生成“思考过程”会使推理成本和延迟上升。奇元科技、清华、北大等提出TRS框架,将历史推理轨迹蒸馏成技能卡片,在推理时检索注入,实现更少Token、更高准确率。
全员 token-maxxing,一场没人敢停的军备竞赛|五源孟醒 AI 观察
2026年3月底,五源资本合伙人孟醒赴硅谷考察,回国后分享一手观察。当前AI迭代极快,硅谷陷入全员token - maxxing军备竞赛,xAI团队雪崩,工程师和研究员焦虑,英伟达掌控算力,估值体系重写,还出现安全危机。
Deepseek 正式发布 V3.1:混合推理,Agent能力大幅提高,token消耗减半
Deepseek正式发布Deepseek V3.1,采用混合推理,支持双模式切换,上下文扩展到128k,API支持Claude Code调用。工具与Agent能力提升,思考效率更高,token消耗减半,官方渠道全面升级,9月6号起调整价格。
阿里这个Token Hub想的挺明白:用悟空认真面对企业Agent市场
3月16日阿里成立Alibaba Token Hub事业群。钉钉发布原生AI Agent新品悟空,可操作电脑,天然嵌入钉钉。企业场景是AI Agent主战场,悟空试图让Agent成企业生产力工具,打造企业级Agent地基。
Apple | 开源视觉语言模型:FastVLM,可手机运行,首token速度提升 85 倍
苹果开源能在 iPhone 上运行的视觉语言模型 FastVLM,代码仓库含 iOS/macOS 演示应用。它解决体积和速度问题,首 token 输出速度提升 85 倍,引入 FastViTHD 编码器,适配 iOS/Mac 生态,有不同参数量级版本。
AI公司烧不起Token了!国产Agent杀出,逼近Opus 4.6还免费
Token成AI时代“电力消耗”,企业成本压力大。昆仑万维推出高性能Agent模型SkyClaw - v1.0及轻量版,性能逼近顶流,价格低且限时免费。经实测能力强,其训练体系独特,未来还将开源。
一年后,DeepSeek-R1的每token成本降到了原来的1/32
几天前,DeepSeek更新R1论文至86页,公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效,通过软硬协同提升每瓦特Token吞吐量,还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
Agent Token焦虑:当每次对话都在「烧钱」,技术如何破局?| GAIR Live 029期预告
GAIR Live 029 期线上圆桌将直击 Agent Token 焦虑的底层技术逻辑,邀请技术负责人从架构重构与系统优化双重视角,拆解 Claw 类产品如何从烧钱走向省钱。探讨成本解剖、架构升维、系统优化等核心议题。
浪费20亿Token之后,我做了一个帮自己定义目标的Skill。
作者在浪费20亿Token后,开源了帮定义目标的Leader.skill。它能将模糊需求转为清晰目标,适用于多模型组合。还阐述人类与Agent交互范式转变及目标定义要点,给出目标七问方法论。
Cloudflare 推出 Agent Tracing:支持截断限制,不同框架的 Payload 默认记录策略存在差异
Cloudflare推出Agent Tracing,可提供统一Dashboard查看已部署Agent会话。该功能在现有Workers Tracing基础上增加Agent级别的Span,有收费时间表。不同框架Payload默认记录策略有差异,Trace有截断限制。