「token成本」共找到 1972 篇相关文章
腾讯音乐如何基于 AutoMQ 降低 Kafka 50%+ 成本
腾讯音乐旗下产品产生海量数据，传统自建 Kafka 集群运维复杂、成本高。为此，运维团队选 AutoMQ，将成本降超 50%，提升扩缩容效率，降低运维负担，本文分享其经验。
当 Token 成为商品，AI 基础设施会怎么变化？
在大模型时代，智能生产和交付未实现工业化，存在性能鸿沟。九章云极提出AI工厂战略，发布Alaya NeW Cloud 3.0，将从资源计量转向智能计量，打造训练和Token工厂，提升算力到有效Token的转化效率。
Anthropic刚刚宣布Claude Sonnet 4支持100万token上下文窗口
Anthropic官方公告，Claude Sonnet 4上下文窗口扩大到100万tokens，是之前5倍。能一次读懂大代码库或多篇论文，可用于代码分析、文档处理等。超20万tokens价格翻倍，现仅对Tier 4用户测试。
MiniMax海螺视频团队首次开源：Tokenizer也具备明确的Scaling Law
MiniMax海螺视频团队首次开源，揭晓视觉分词器难题答案。其推出的VTP框架可提升模型性能，解决传统Tokenizer缺陷，还展示了Tokenizer的Scaling Law，为行业提供新路径。
NeurIPS 2025｜VFMTok: Visual Foundation Models驱动的Tokenizer时代来临
传统视觉 Tokenizer 存在缺乏高层语义信息、冗余度高、表征混乱等问题。香港大学 CVMI Lab 和阶跃星辰 AIGC 团队提出 VFMTok，用预训练视觉基础模型构造视觉 Tokenizer，实验显示其性能优异。
ICML 2026 | 只用少量Thinking Tokens，大模型依然能深度思考
近年来，CoT 推理成为提升大模型复杂问题求解能力的重要路径，但带来效率问题。浙江大学等团队提出 Heima 框架，将冗长 CoT 压缩为少量 thinking tokens，在减少 token 数的同时保留推理能力，已被 ICML 2026 接收。
英伟达改卖Token？黄仁勋GTC后发声：token就是AI新通货，值钱的不是算力，是“每度电的智商”
英伟达黄仁勋在采访中强调其是加速计算公司，非单纯 GPU 公司。他认为 AI 竞赛从拼算力变拼产出，token 是新通货，还阐述了 AI 瓶颈、架构发展、推理编程、CPU 角色等观点。
上下文窗口限制被打破：Subquadratic推出了一个1200万Token的窗口
2026 年前沿模型宣传至少 100 万 Token 上下文窗口，但利用不佳。Subquadratic 推出能处理 1200 万 Token 窗口的模型，称可绕过问题，还将推 5000 万窗口模型，其 SSA 架构有优势，基准测试成绩佳。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
谷歌月Tokens消耗量领跑全球了：1300000000000000（别数了是千万亿）
谷歌月处理Tokens用量达1.3千万亿，较一年前的9.7万亿大幅增长。横向对比，谷歌在该指标上远超微软等大厂。Tokens消耗量可衡量模型多方面能力，谷歌为行业树立新标杆。