「百万 token」共找到 757 篇相关文章
EMNLP 2025 | 动态压缩CoT推理新方法LightThinker来了
随着AI发展，大语言模型处理复杂推理任务能力提升，但推理产生大量中间步骤和文本，拖慢计算速度、增加资源压力。研究者提出LightThinker，模仿人类思考模式，动态压缩推理步骤，削减tokens数量，降低成本。
OpenAI重回巅峰：GPT‑5.5全球SOTA，碾压Opus 4.7
OpenAI发布GPT - 5.5，定位为‘为真实工作而生的新一代智能’。它在编码、科研、办公等多领域表现出色，能力重心转向‘自主完成任务’，在多项评估中成绩优异，还能加速生物医学研究，且Token效率大幅提升。
多模态大模型中Attention机制暗藏「骗局」，需用一个公式修正丨上大×南开
上海大学曾丹团队研究发现，主流VLM中attention受位置偏置和padding区域异常高attention影响，直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏，集成到多种剪枝方法，提升了模型性能。
Codex正式开放1M上下文！解除GPT-5.6 Sol封印，三行配置搞定
现在3行配置就能让GPT - 5.6 Sol封印解除，在Codex里用上1M上下文。不过有网友警告轻易别用，因超出默认窗口，模型消耗token速度会翻倍，且模型上下文利用能力会下降。此外，Codex确定会上Astra。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。
告别「边画边说」：LatentMorph 开启视觉生成隐式潜空间推理新范式
现有的文生图模型缺乏动态思考与自我修正能力，香港科技大学团队提出LatentMorph框架，将隐式潜空间推理集成到T2I生成过程中，实验显示其显著提升基座模型性能，削减推理延时与Token消耗，实现人机认知对齐。
马斯克点火全球最大超算，首个1GW狂飙奇点！6万亿Grok 5在训
马斯克官宣全球首个吉瓦级超算Colossus 2上线，狂堆55万块GPU，目标百万。下一代Grok 5已在训练，6万亿参数将引爆智能奇点。同时，全球AI巨头掀起算力军备赛，但美国面临电力短缺难题。
相信大模型成本会下降，才是业内最大的幻觉
很多AI创业者认为模型降价能降成本、改善营收。但文章指出，成本下降仅针对老旧模型，最好模型成本大致相同，且模型token消耗激增。还探讨了AI创业商业模式，如按使用量计费、建立高切换成本、垂直整合等。
智谱开启狂飙模式！7倍提速，全球最快，旗舰模型即问即答
5月22日，智谱上线GLM - 5.1高速版API，输出速度达400 tokens/s，刷新全球大模型API速度纪录，比原版提速约7倍。该速度由GLM团队和TileRT团队联合打造，核心优化分三层推进，且是稳定可用的生产级能力。
字节押注AI Coding：百万月活的TRAE，如何改写开发者生态？｜甲子光年
字节跳动在火山引擎Force 2025原动力大会主推自研AI编程产品TRAE，其月活超百万，内部80%工程师在用。AI Coding能提升大模型能力，助字节逼近AGI。TRAE更新功能，未来或成独立开发超级个体。