产品应用8
调优Agent技能:三层架构省80% Token
千问AI平台
AI 摘要
某AI投研平台4天生成37个技能后,遭遇路由混淆与上下文爆炸。团队将其重构为三层架构,单技能上下文从约6000降至约1200 Token,意图准确率达92.5%。
架构分层:基座定合规、索引做路由、模板管分析工作流
Skill描述只写触发与不适用场景,不堆功能简介
模型分工:意图分类用25B小模型,大模型留给主推理
阅读原文 · 千问AI平台
智能体 Skill 调优“焚诀”——业务逻辑之外的胜负手
某AI投研平台4天生成37个技能后,遭遇路由混淆与上下文爆炸。团队将其重构为三层架构,单技能上下文从约6000降至约1200 Token,意图准确率达92.5%。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
开源动态7
清华开源CoACT:Agent省33% token
清华开源 CoACT。在 SWE-bench 上,环境反馈写入上下文前压缩,使三个编程 Agent 的 总 token 消耗平均减少 33%。
机器之心
推荐文章9
把Agent判断从大模型里拆出来
本文是一万字Jev工程实践长文,作者结合自研落地Demo,拆解Jev核心设计逻辑,讲解如何将Agent中高频封闭的判断任务从大模型生成链路拆分,解决Agent上下文膨胀痛点,分享工程实现与选型思路。
腾讯技术工程
推荐文章8
GPT-6 Astra省Token技巧大全
本文原创分享GPT-6 Astra的Token节省与实战使用技巧,通过实测对比不同模型搭配的配额消耗效果,给出排雷指南,还介绍了一款开源工具可将普通ChatGPT网页版爆改成全功能Codex,干货充足实用性强。
AI进修生
开源动态7
Netflix开源Headroom,省token效果遭质疑
Netflix工程师Tejas Chopra开源Headroom,定位为AI Agent的上下文压缩层,压缩工具输出等内容,有可逆压缩等特性。官方数据显示节省token效果好,但微软工程师实测结果中性偏负面。
AI工程化