「token使用量」共找到 2417 篇相关文章
The Batch: 899 | 更划算的推理
研究人员提出 Delethink 强化学习方法，训练大模型定期截断推理 token 至固定最大数量，以限制处理长思维链成本。经测试该模型在多方面超基线，且缓解计算成本限制，为长上下文推理提供路径。
估值1亿的"死了么"APP有多好抄？5分钟AI就能复刻，去年有人一下午做出原型
‘死了么’APP 爆火并更名 Demumu，虽开发成本低却估值达 1 亿。此前有数据分析师曾用 AI 5 分钟复刻其海外版。该 APP 由三名 95 后开发，现下载量猛增，还面临竞品挑战。
Transformers v5 中的分词系统：更简洁、更清晰、更模块化
文章聚焦 Transformers v5 分词系统，介绍分词概念、流程、主流算法，对比 transformers 和 tokenizers 库。着重讲 v5 改进，如架构与词表分离，解决 v4 黑盒问题，还能从零训练专属分词器。
笑死！xAI员工竟用Claude写代码？这回Anthropic反手拔了马斯克的网线
2026年1月8日消息，xAI联合创始人通知员工，Cursor中的Claude模型无法响应，是Anthropic针对对手的新政策。此前Anthropic已多次调整策略，封杀竞争对手，其目的包括保护数据资产等。xAI或加速自研，行业或开启军备竞赛。
1.5万人收藏！这款 NotebookLM 开源平替太还原了，模型随意切换！
Google的NotebookLM虽火，但有国内使用难、数据不私密、模型单一等痛点。Open - Notebook是其开源平替，完全本地可部署，功能超全，支持多模型，近半月GitHub星标增10K，总收藏1.5万。
全图与切片并非等价？LLaVA-UHD-v3揭示差异推出高效全图建模方案
随着多模态大模型发展，处理高分辨率图像成关键。主流视觉编码范式难兼顾性能与效率，清华和中科院团队发布 LLaVA-UHD v3，提出 PVC 框架，对比 SBE 和 GNE，验证其在提升效率同时保留模型能力。
仅有一位作者的论文，却补上了城市智能的「最后一公里」
郑宇教授用论文提出跨域多模态知识融合框架，在空气质量推断等多场景优势明显，其研究按数据选择等四阶段进行，解决数据难题，推动AI用于城市问题，为跨部门协作提供可能。
关键技术详解｜腾讯一念 LLM 分布式推理优化实践
InfoQ 邀请袁镱分享《一念 LLM 分布式推理优化实践》。介绍了“一念 LLM”设计思路、推理优化挑战与突破等，还对比不同框架，指出优化方向，如先实现 PP，再推进 EP 与 PD 分离。
DeepSeek在Agent上做了件大事！
昨天DeepSeek发布V3.2正式版，强化Agent能力并融入思考推理，其在Agent评测达开源模型最高水平。文中分析Agent成开源‘心病’的痛点，介绍DeepSeek相关解决策略及成果，还给出使用示例。
预测下一个像素还需要几年？谷歌：五年够了
谷歌DeepMind研究者分析下一像素预测在图像识别与生成任务中的扩展特性。实验显示其扩展趋势与文本类似但效率低，最优策略因任务和分辨率而异，预计未来五年逐像素建模可行。