「Token调用量」共找到 1509 篇相关文章
英伟达震撼首测Vera Rubin，DeepSeek吞吐暴涨30倍！
英伟达公布下一代旗舰级机柜Vera Rubin NVL72片上实测数据，用DeepSeek - V4 - Pro跑任务，每兆瓦吞吐量最高升30倍、Token成本最高降35倍。还宣布Groq 3 LPX量产，推出Agent专属Vera CPU，被SpaceXAI采用。
为 OpenAI 秘密提供模型测试， OpenRouter 给 LLMs 做了套“网关系统”
OpenRouter成立于2023年初，为用户提供统一API Key调用各类模型，OpenAI会用其秘密测试。平台token用量高速增长，还发布模型用量排行榜引关注。创始人认为大模型非赢家通吃，未来想成agent最佳推理层。
工业级文本转SQL新思路：成本暴降、超3000列超大数据库依然稳健
华中科大与复旦联合发布AutoLink框架，引入自主智能体，模拟人类工程师工作流。在不输入全量数据库模式下，实现对超大规模数据库模式的高精准链接与筛选，以低Token消耗刷新两大榜单纪录。
LightMem用3招重新设计了LLM的记忆，结果出乎意料
LLM在超长多轮对话中有上下文窗口有限、记忆系统昂贵的痛点。LightMem借鉴人类记忆机制，用三招重新设计LLM记忆，实验显示其准确率超基线，还降低token使用量、API调用和运行时间。
小米双模型正式开源！MiMo-V2.5-Pro无中断肝出“macOS”：54个应用全开、浏览器真能冲浪
小米MiMo-V2.5系列模型正式开源，权重全量开放。该系列含四大模型，综合实力对标国际顶尖水准。MiMo-V2.5 Pro能力出色，如4小时无中断完成“macOS”系统，且Token效率高省成本。小米还推出开发者扶持计划。
GLM-5架构曝光，智谱两日涨60%：采用DeepSeek同款稀疏注意力
GitHub代码确认GLM - 5架构细节，它采用DeepSeek - V3/V3.2架构，含稀疏注意力和多Token预测，参数量745B。OpenRouter上神秘「Pony Alpha」被指是其测试版，受消息影响智谱AI港股两日涨60%。
DeepSeek流量暴跌？AI大模型全球霸主离奇遇冷，外媒曝出真相
曾以低价高性能出圈的DeepSeek，在自家平台遇冷、市场份额下滑，但其R1和V3模型在第三方平台使用量增长近20倍。背后是‘Token经济学’及战略转移，它开源模型，将算力留作研发。Anthropic也因算力受限有类似问题。
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
本周 5 个火火火的Github开源项目，太香了！
文章介绍了本周5个热门GitHub开源项目。有能生成城市地图海报的MapToPoster，离线翻译工具Argos Translate，终端历史增强神器Atuin，轻量超高效版OpenClaw的PicoClaw，以及开源轻量级文本转语音工具Pocket TTS。
NeurIPS 2025 Spotlight | 选择性知识蒸馏精准过滤：推测解码加速器AdaSPEC来了
大型语言模型推理延迟高、开销大，推测解码可加速但依赖草稿与主模型一致性。佐治亚理工等团队提出 AdaSPEC 蒸馏法，过滤难学 token，提升草稿模型与目标模型对齐度，实验显示能提升接受率和推理速度。