「Token节省」共找到 705 篇相关文章
Qwen3.8-Max首发上线阿里千问AI平台，API服务与Token Plan同步开放
今日，阿里巴巴发布新一代基座大模型Qwen3.8，千问AI平台首发其Max版API服务与Token Plan。Qwen3.8参数量2.4万亿，性能居前列，推理快且能自主编程。API性价比高，平台还为Token Plan用户提供优惠。
1.5B刷新数学代码SOTA！快手&清华精细化Token管理，LLM推理能力飙升
快手与清华团队用1.5B参数小模型在推理基准上超越同量级SOTA。其Archer方法通过精细化Token管理，对知识型和推理型Token差异化训练，让知识和推理同步更新且互不干扰，在数学和代码任务表现出色。
超长推理还能节省计算！Salesforce开源神器两连发：教大模型边想边省，显著提升数学编程准确率
Salesforce AI Research开源Elastic Reasoning和Fractured Sampling。前者将推理流程分两部分，分配token预算，使输出缩短、准确性提高；后者打碎推理链条，从三维度采样，以更少tokens换更高准确率，均提升数学和编程任务准确率。
仅保留35% Token，性能反超原模型！快手可灵等用视觉信息引导音频压缩，推理时间直降42%
Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。
mcpx？要来拯救mcp！让工具调用不再吃掉你的上下文
MCP传统集成方式需在对话前加载所有工具定义，易使上下文溢出。开发者cs50victor基于mcp - cli构建mcpx，按需发现工具，大幅节省token，提升准确率，适合本地部署，虽有额外推理调用，但利大于弊。
Token 新译名：「智元」
文章讨论Token新译名「智元」，认为其比「词元」更合适。介绍英伟达GTC 2026上黄仁勋强调AI推理时代智元重要性，OpenClaw消耗大量智元引争议，还提及黄仁勋闭门会观点及多位大佬对「智元」译名的认可。
Agent 的 Token 账单怎么省？
AI 行业从生成式能力向 Agent 行动力跃迁，核心矛盾转向推理成本可控性。随着企业将 Agent 编入自动化流水线，Token 消耗受关注，业界开始聚焦以「降本」为核心的技术路线。
Token，应该翻译成「新智元」
作者经信息论分析、构词法验证等，提议将Token中文标准译名定为「新智元」。现有译名如「托肯」「令牌」等都不满足要求，「新智元」能覆盖技术和经济属性，符合翻译学标准。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
按token 计费，真的合理吗？
马克斯·普朗克软件系统研究所论文揭露，同样文本可被切分成不同数量token，用户难以验证是否被多收费。研究团队开发算法展示服务商多收费手段，还指出按字符计费可解决问题，但需行业达成共识。