「Tokens/s」共找到 842 篇相关文章
卡帕西没做完的，开源社区48小时搞定了！完全体知识库，token省70倍
Karpathy分享的个人知识库爆火，48小时后开源社区推出Graphify工具。它零配置、全模态、本地跑，能自动构建知识图谱，省71.5倍token，还全平台适配，降低了上手门槛。
卡帕西点赞Transformer内置计算机！每秒3万Token吞吐，拿下世界最难数独
当前大模型推理顶尖但精确计算不足，Percepta团队在Transformer权重里内嵌可执行程序，通过2维注意力头设计提升推理效率，能在普通CPU上实现每秒3万+Token的流式输出，还精确求解了世界最难数独。
NTU S-Lab 团队探索可动 3D 新方向：结构、关节、纹理一次到位
南洋理工大学 S-Lab 团队发布研究，提出统一建模框架，能从单张图像生成可动三维对象，在几何精度、外观一致性与运动合理性上显著提升，解决了现有方法的难题，为相关领域发展奠定基础。
九章云极发布AI工厂体系：破解140万亿Token时代的落地悖论｜甲子光年
九章云极于6月17日发布Alaya NeW AI工厂体系，锚定十万P算力、十万亿Token、千个模型、千倍降本四大目标。该体系是智能工业化的必然产物，能解决资源难转生产力的难题，还具备技术效能、生态范式和商业飞轮三大支柱。
十分钟出结果，陶哲轩用Gemini Deepthink帮人类数学家完成Erdős问题论证
Erdős问题网站专注数学研究与解答，收录厄尔德什提出的各类数学问题。11月20日，Wouter van Doorn提出反例，陶哲轩提交给Gemini 2.5 Deep Think，十分钟得到证明，他半小时转为基础证明。之后Boris Alexeev用Harmonic的Aristotle工具完成形式化。
养虾人狂吃国产模型！4.19万亿Token调用量激增34.9%超越美国
根据OpenRouter数据，上周中国大模型周调用总量飙升至4.19万亿Token，再度超越美国登顶全球。中国产品在全球大模型调用量Top 5中占三席，国产大模型受青睐，但在速度和价格方面仍待提升。
刚刚，DeepSeek自曝单集群日跑155万亿Token：白菜价背后，利润率竟高达80%
本文拆解DeepSeek大模型推理框架的底层超大规模集群调度设计，公布其单集群日吞吐155万亿Token，低价API下仍保持80%高毛利率，详解多项极致优化方案。
12秒生成1万token！谷歌推出文本「扩散模型」Gemini Diffusion，研究员：演示都得降速看
谷歌将图像生成常用的“扩散技术”引入语言模型，推出Gemini Diffusion，12秒能生成1万tokens，速度比Gemini 2.0 Flash - Lite更快。它通过逐步优化噪声学习生成输出，目前是实验性演示，可申请体验。
OpenAI发布GPT-5-Codex：独立编码7小时，能动态调整资源，token消耗更少
OpenAI发布专用于编程的GPT-5-Codex，属GPT-5特殊版本，有即时协作和独立执行的‘双模’特长。它能动态调整资源，token消耗少，擅代码审查。文中还介绍其命名由来及编程智能体竞争情况。
轻量级易开发，8B参数释放大实力！科学多模态模型Intern-S1-mini开源
上海人工智能实验室继7月26日开源后，推出轻量化版本Intern-S1-mini。它是8B参数“迷你模型”，兼具通用与专业科学能力，适合快速部署和二次开发，在多方面表现出色，还降低了对高端计算设备依赖。