「token使用量」共找到 2491 篇相关文章
1万tokens是检验长文本的新基准，超过后18款大模型集体失智
Chroma团队研究发现，将上下文扩展至1万tokens，18款主流大模型集体“失智”，“智商”非均匀下降，在一些节点会断崖式下跌。研究还设计四项对照实验，证明LLMs性能随输入长度增加显著且非均匀下降。
OpenAI首个蛋白质模型披露更多细节，改进诺奖研究成果，表达量提升50倍
OpenAI与Retro Bio合作开发的GPT‑4b micro，是专为蛋白质工程设计的GPT-4o微型版本。它改进诺奖获奖蛋白变体，将干细胞重编程标记物表达量提升50倍，还能减少DNA损伤，研究团队公布更多突破细节。
用短视频成本生成长视频，字节Seed新注意力机制让计算量降低85%
字节Seed与斯坦福等机构推出新模型，其新注意力机制MoC能让长视频生成计算量降低85%，质量不减且保持连贯性。团队将视频生成定义为上下文检索任务，提出MoC机制并阐述实现方法。
“如果你不用更多Token，就永远逃不出底层”：AI竞赛开始变成资源战争
文章围绕AI竞赛中资源分配问题展开，以SemiAnalysis创始人Dylan Patel经历为例，揭示Token成本疯涨、需求远超供给，介绍Anthropic模型优势，探讨具身智能成新需求点，分析竞争格局及供应链瓶颈，还预警反AI抗议。
Claude Code 省 Token 指南：慎用 1M 上下文，不开新会话或者总是开新会话都不对
文章聚焦Claude Code省Token问题，分析配额消耗快的原因，介绍提示缓存机制，给出省钱策略、操作规则，还提及委派工作及澄清误解，强调让缓存多命中、上下文少装无关内容。
上交大和辉羲把LLM刻进ROM！推理性能冲2万token/s，GPU时代终结？
硅谷Taalas将大模型‘物理焊死’进芯片引关注，而上海交大、辉羲智能与微软亚洲研究院团队用ROM+SRAM异构架构，将端侧LLM推理速度推至20,000 tokens/s。介绍了ROMA和TOM架构优势及应用场景。
华为云再掀算力风暴：CloudMatrix384超节点将升级，Tokens服务性能最大可超H20四倍
华为云在全联接大会2025发布新进展，如CloudMatrix超节点升级、首创EMS服务等。其以“算力黑土地”理念，用智算+通算策略满足产业需求，Tokens服务优势显著，还支撑多领域应用。
AI Infra进入自进化时代！清华团队用「AI优化AI」造就国产万亿Token工厂
AI自主优化RSI成新焦点，被视为通往AGI的关键路径。硅谷为此沸腾，中国也不落后。清昴智能由清华团队创立，率先打造自进化算力底座，还基于国产算力打造万亿Token工厂，目标是让优化成为持续运行的基础能力。
「上下文学习」之后，腾讯混元第二篇公开研究：精准定位RLVR训练崩溃的“罪魁祸首”Token
腾讯混元团队新研究提出异常梯度定位器 GradLoc，可将全局梯度突刺定位到具体异常 token，降低 RLVR 训练观测与分析门槛，助力解决训练不稳定问题，让模型调优更科学。
跳出英伟达生态：OpenAI 发布新编程模型 GPT-5.3-Codex-Spark，速度达 1000 token每秒
OpenAI 发布新编程模型 GPT-5.3-Codex-Spark，跑在 Cerebras 晶圆级芯片上，速度达每秒超 1000 个 token，比传统 GPU 推理快约 15 倍，这是其跳出英伟达生态的里程碑。