零Token部署」共找到 1617 篇相关文章

新闻资讯7

人民想念DeepSeek

文章探讨AI时代Token相关问题。指出其消耗大、价格贵,存储价格上涨使Token降价缺杠杆,虽模型能力提升、MFU优化可降本,但传导到C端取决于商业考量。还回顾大模型价格战,介绍本地部署及芯片创新方案。

芯师爷
新闻资讯8

OpenAI 狂砸40亿美刀下场抢FDE,软件工程师的尽头原来是驻场啊

当地时间5月11日,OpenAI宣布成立OpenAI部署公司,初始投资超40亿美元,收购Tomoro引入现场部署工程师。这是战略转向,因企业更看重AI落地能力。如今AI竞争转向应用落地,部署工程师成香饽饽。

InfoQ
开源动态7

感谢 OpenClaw,国产大模型终于知道怎么挣钱了

OpenClaw作为免费开源项目,重新定义Token消耗量级,催生‘超级Token耗散场景’,倒逼模型厂商推出‘Token Plan’。多家国产模型厂商跟进推出‘龙虾套餐’,云平台也下场布局。但OpenClaw面临配置门槛、任务稳定性和必用场景等问题。

Founder Park
推荐文章8

模型之上,才是真正的资产

微软CEO萨蒂亚·纳德拉在《没有生态的前沿,立不住》中提出,每家公司未来要构建人力资本与Token资本。强调Token资本构建靠学习闭环,还提出检验公司是否拥有Token资本的方法,呼吁避免价值集中到少数模型公司。

五源资本 5Y Capital
算法论文8

逐个token太慢!大模型原生并行出token,CMU、英伟达新作Multiverse

卡耐基梅隆大学(CMU)和英伟达研究者提出Multiverse,这是能实现原生并行生成的新型生成模型。它解决了现有并行生成模型缺乏连贯性等问题,通过多方面协同设计构建推理模型,还开源了生态系统。

机器之心
开源动态8

大部分token根本不该重复计算,不止于KVCache

斯坦福研究显示,AI Agent每次调用62%内容重复,现有前缀缓存虽有优化但天花板低,阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立,解决性能问题,其CacheBlend技术复用缓存,适配多引擎和存储后端。

AI工程化
开源动态7

开源,本体驱动的GraphRAG新范式,噪声~

分享开源项目trustgraph,重点介绍本体驱动的噪声GraphRAG。常规GraphRAG在实际应用中问题多,如数据重复、冲突、缺数据等,而本体可构建自我完善的知识图谱,作者为此造了“本体驱动GraphRAG”。

PaperAgent
新闻资讯8

月吞100万亿Token!AI中转站OpenRouter赚爆了

OpenRouter宣布完成1.13亿美元B轮融资,估值达13亿美元。它每周处理25万亿个tokens,全球用户超800万。其提供AI推理统一控制层,解决企业多模型管理难题,开源模型崛起使其价值凸显。

新智元
产品应用7

龙虾部署不求人,还附5个OpenClaw必备技能

OpenClaw火爆带来新商业模式,新手5分钟可上手,官方推荐一行命令安装。文章介绍其5个实用技能,包括Tavily Search、n8n Workflow Automation等,还给出办公、科研党使用方案。

量子位
新闻资讯8

Bun 推出内置数据库客户端与配置前端开发

Bun 发布 1.3 版本,是迄今最大更新,实现全栈开发,推出统一数据库 API 并提升性能。引入配置前端开发模式,有内置 Redis 客户端,社区反响不一,还扩展包管理功能,性能提升显著。

InfoQ