「Token经济」共找到 814 篇相关文章
东方理工团队提出HiDrop:重构MLLM计算路径,压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop,基于MLLM不同层功能差异,设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示,它能压缩约90%视觉Token,保持98.3%性能,实现训练和预填充加速。
Qwen3.8-Max首发上线阿里千问AI平台,API服务与Token Plan同步开放
今日,阿里巴巴发布新一代基座大模型Qwen3.8,千问AI平台首发其Max版API服务与Token Plan。Qwen3.8参数量2.4万亿,性能居前列,推理快且能自主编程。API性价比高,平台还为Token Plan用户提供优惠。
1.5B刷新数学代码SOTA!快手&清华精细化Token管理,LLM推理能力飙升
快手与清华团队用1.5B参数小模型在推理基准上超越同量级SOTA。其Archer方法通过精细化Token管理,对知识型和推理型Token差异化训练,让知识和推理同步更新且互不干扰,在数学和代码任务表现出色。
Anthropic最新经济指数:AI让高学历任务提速12倍,但也可能让你的工作“降级”
Anthropic通过‘经济指数’项目,对Claude.ai和其API对话分析。最新报告引入‘经济基元’,基于2025年11月样本分析,揭示AI对任务、职业和总体影响,如让高学历任务提速12倍,也可能致岗位‘技能降级’。
仅保留35% Token,性能反超原模型!快手可灵等用视觉信息引导音频压缩,推理时间直降42%
Omni - LLM计算浪费严重,快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系,通过时空联合剪枝压缩视频、视觉引导筛选音频Token,大幅减少Token数量,提升性能和推理效率。
Token 新译名:「智元」
文章讨论Token新译名「智元」,认为其比「词元」更合适。介绍英伟达GTC 2026上黄仁勋强调AI推理时代智元重要性,OpenClaw消耗大量智元引争议,还提及黄仁勋闭门会观点及多位大佬对「智元」译名的认可。
Agent经济,要来了
红杉资本半小时演讲讲清AI产业现状与趋势。介绍了分析框架,指出AI浪潮大且猛,会颠覆软件市场,机会在应用层。还提出Agent经济概念,建议大家抓住机会行动起来。
Agent 的 Token 账单怎么省?
AI 行业从生成式能力向 Agent 行动力跃迁,核心矛盾转向推理成本可控性。随着企业将 Agent 编入自动化流水线,Token 消耗受关注,业界开始聚焦以「降本」为核心的技术路线。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS,能处理一千万token输入。它替代注意力层,训练后在长上下文任务中表现佳,但小模型,大规模表现未知。
AI 的经济账根本算不通
文章指出AI经济账算不通,如GitHub Copilot将按用量计费,此前微软补贴用户算力;AI订阅服务成本波动大,欺骗用户;AI数据中心建设和运营成本高、收入少,依赖少数客户,OpenAI和Anthropic盈利难,可能影响相关企业。