「省Token策略」共找到 1569 篇相关文章
AEPO:智能体熵平衡策略优化,让探索更稳,推理更深!
中国人民大学与快手团队联合提出 AEPO 算法,解决熵驱动式智能体强化学习训练不稳等问题。它设计两项核心机制,在 14 个基准上优于主流算法,在 X 等平台获高关注。
不拼GPU!中兴扔出AI超节点,把token价格打下来
在万亿级大模型时代,传统‘芯片堆砌’方式面临通信开销剧增等痛点。中兴通讯推出超节点技术,从系统级协同架构出发,通过六大维度创新,绕开单GPU芯片瓶颈,重构AI算力基础设施,推动行业向开放、融合发展。
KV-Cache 实战策略:生产环境中的分页、固定与复用技术解析
在大语言模型推理场景中,KV - Cache 是平衡性能与成本的核心技术,但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术,结合原理、实践与案例,为开发者提供解决方案,还探讨了未来演进方向。
大模型推理加速全链路:内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战,如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法,还介绍开源推理引擎赤兔在国产芯片的实践成果。
Vibe Coding误烧55万元token,他靠嘲笑声反手赚了7个亿
美国企业金融服务公司Slash鼓励Vibe Coding,员工尼哥开发《Brainrot Shooter》,称花8万多美元,引发关注。游戏火了,还带来1亿美元AUM,最后发现账单是假的,成本不到200美元。
10万token自然语言推理,让30B-A3B模型站上奥赛金牌线
上海人工智能实验室报告显示,30B - A3B规模的SU - 01模型不依赖外部工具,经训练在IMO、USAMO、IPhO等奥赛评测达金牌水平。研究还验证更高效科学推理系统路线,有望用于更多科学问题。
从卖token到卖结果,这些公司开始让AI背KPI了
当前企业难以衡量AI真实价值,常以调用量代替产出。一批公司开始尝试改写,如Sierra和零犀科技,直接对结果收费。Sierra覆盖超40%财富50强企业,零犀实现规模化盈利与正现金流。
从“暴力烧Token”到“系统工程”:OpenAI与华为的两条 AI 编程路径
文章对比OpenAI与华为的AI编程路径,指出模型中心派靠推高上下文窗口但有成本高、延迟大等问题;工具驱动派如Cursor和华为云码道重构IDE工具。码道将任务解耦,通过多技术实现性价比,还介绍了底层基石及其实测表现。
DeepSeek-R1全升级V2版:Token成本低至原来30%
DeepSeek - R1 V2版全维度升级,训练框架从‘单一RL’到‘多阶段协同优化’,推理能力从‘能推理’到‘会优化推理’,还提升了安全可控性,适配生态,推出轻量级模型。
每周产业洞察 | AI视听内容工业化:阶段性风口下的行业应对策略
北京AIGC视听产业创新中心位于朝阳东坝,是朝阳区推动影视制作基地建设的举措。由多方参与,首创郎园负责运营,提供六大服务平台,截至2025年8月汇聚60余家生态伙伴,首创郎园业务多地开花。