「低token高压缩」共找到 1717 篇相关文章
高通新款云端芯片公开！借推理抢英伟达蛋糕，市值一夜暴涨197.4亿美元
高通宣布推出AI200和AI250两款全新AI芯片进军数据中心市场，消息使股价一度飙升超20%。新品聚焦推理阶段，主打低TCO、高能效与强内存处理能力，还推进端到端软件栈。高通早有布局，已获订单。
不只DeepSeek，阶跃等开源JetSpec：大模型解码提速近10倍
近期，DeepSeek 推出 DSpark，阶跃星辰提出 JetSpec，都关注大模型推理效率。DSpark 关注验证效率，JetSpec 提高有效 Token 生成率。二者切入点不同，但都显示大模型行业进入新阶段，推理效率成 Agent 落地基础变量。
OpenClaw绝配！GPT-5.4问世，AI能力开始大一统，就是太贵
周五凌晨，OpenAI 发布 GPT-5.4，引入原生计算机使用模式。它能操作软件、浏览网页等，性能和灵活性强，token 效率高，但价格贵。科学家认为 AI 前景广，有人觉得 GPT-5.4 Pro 达 AGI 级别。
开源即登榜！登顶全球前十AI编程智能体，UCL初创团队开源Prometheus
UCL初创团队EuniAI开源AI软件智能体Prometheus，在SWE - bench Verified上Pass@1达71.2%，成绩入官方主榜。它有图结构推理设计，能理解代码，成本低，官网有Demo展示其工程化能力。
多模型共享 GPU 内存，Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。
嚯！国产视频模型的物理水准超神了 | 实测MiniMax海螺02
MiniMax上新视频生成模型Hailuo 02，解决了AI视频生成中体操难题。该模型原生支持1080p，能处理极端复杂物理场景，实测文生、图生视频能力出色，成本创新低，MiniMax本周还有多项技术布局。
The Batch：836 | 基准测试成本攀升
独立AI测试实验室披露评估推理模型成本上升。这些模型生成“思维链”提升输出质量，但计算需求增加，成本上升使资源有限组织难复现结果，且新模型定价、按需分配推理token也让成本更复杂。
同一模型便宜50%，API Hub靠什么赚钱？
文章探讨大模型API Hub低价卖Token现象，指出低价出售的常是闲置算力等。分析厂商不官网降价原因，介绍第三方低价来源及Hub盈利途径，给出判断低价Hub能否用的检查清单。
估值1亿的"死了么"APP有多好抄？5分钟AI就能复刻，去年有人一下午做出原型
‘死了么’APP 爆火并更名 Demumu，虽开发成本低却估值达 1 亿。此前有数据分析师曾用 AI 5 分钟复刻其海外版。该 APP 由三名 95 后开发，现下载量猛增，还面临竞品挑战。
自媒体误读了 DeepSeek-OCR：一图胜千言
近期，DeepSeek-OCR引发关注，但很多媒体误读其为OCR工具，实际是视觉语言模型。它是为大文档等场景优化的视觉压缩与识别系统，架构新颖，训练讲究，效果出色，为行业带来新思路。