「token压缩」共找到 811 篇相关文章
AI七个月突破数学家“围剿”反超人类！14位数学家深挖原始推理token：不靠死记硬背靠直觉
大模型o3 - mini - high在7个月内，于FrontierMath基准测试中，答题得分从2%提升到22%，超人类团队平均水平。数学家分析其推理记录，发现它靠直觉而非死记硬背解题，但也存在缺乏创造力等局限。
1美元Token撬动4800美元收益！AI挑战百万美元级基准，最赚钱的Agent出现了
Humanlaya Data Lab等机构构建$OneMillion - Bench评测基准，用经济价值衡量模型。它含400道高难题目，覆盖多领域。目前最强模型能产出约50万美元价值，但离可交付专业任务还有距离。
腾讯AngelSlim重磅升级！面向全模态的大模型压缩算法工具包，推理速度飙升 1.8倍！
近年来，推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现，支持多模态场景，最高可实现 1.9× 推理加速，还具备多亮点。
33.5k星星爆火！这个开源插件让AI不再写屎山，token自然就省下来了
Ponytail是开源插件，将资深工程师工程直觉整理成skill规则，供Claude Code等AI coding agent加载。它让AI开发更克制，减少代码量、成本，提升速度，核心是强制AI做复杂度判断。
机器人整机是“有限游戏”？对话星海图创始人：具身智能商业化的三个阶段，终点是卖Token
星海图CEO高继扬等提出具身智能三重跃迁，发布新模型并开源，首秀自研机器人。公司从整机起步，联合建数据公司，规划数据量。其商业模式分三阶段，认为中国具身基础模型能力有望超美。
华为升级行业Agent算法架构！MindScale自己写prompt和工作流，KV Cache减少5.7倍token
华为诺亚方舟实验室更新面向行业应用的算法包MindScale，融合算法创新与业务实践经验。它梳理了Agent时代技术挑战，给出技术论文与昇腾代码，应对工作流维护等难题，还提升训推效率、适配国产硬件。
腾讯发布SpecExit算法，无损压缩端到端加速2.5倍！解决大模型长思考效率难题
腾讯发布 SpecExit 算法，将思考早停与投机采样融合，利用轻量级草稿模型预测“退出信号”，在不引入额外探测开销的前提下，实现动态、可靠的思考早停，在 vLLM 上推理端到端加速 2.5 倍，准确性和推理效率得到双重保障。
微软 CEO 纳德拉：离了 AI 软件开发没法想！编程如诗都是“压缩”。社区：必须拥抱变化。
微软CEO纳德拉在访谈中表示，如今软件开发离不开AI，AI编程已成标配。他强调AI本质是赋能人类的工具，还提及AI普及挑战，同时保持对AI局限性的清醒认知，分享领导哲学与诗意展望。
32k微调处理百万Token：21倍的推理加速，10倍的峰值显存节省，实现恒定内存消耗
现有大模型处理超长文档易内存爆炸、计算崩溃。阿里巴巴未来生活实验室推出CoMeT架构，有双轨并行记忆系统，能恒定内存、线性时间处理文本，在基准测试超主流方法，实现21倍推理加速和10倍显存节省。
18个月，中国Token消化狂飙300倍！别乱烧钱了，清华系AI Infra帮你腰斩API成本
中国大模型API服务碎片化、“黑盒”问题严重，成本高。清程极智1月29日发布AI Ping，类似“中国版OpenRouter + Artificial Analysis”，可评测、路由大模型，帮开发者降低成本、提升效率，还能重塑服务市场秩序。