「成本低」共找到 2071 篇相关文章
SGLang 中的 CUDA Graph 进阶指南
本文介绍 SGLang 构建 CUDA Graph 支持及改动。如 Runner/Backend 解耦与灵活组合;首创 Breakable CUDA Graph 并开源,能提高捕获灵活性;还实现 Prefill 的 Full CUDA Graph,同时介绍显存管理方法。
国产开源模型越多,模型路由的机会越大
中国大模型市场模型增多,能力相近、价格降低且部分开源。开发者选择多但企业选模型难,价值向调度层转移。开源改变产业结构,Routing业务有价值且至少含四层,中国Provider Routing易落地。
广域铭岛 x 领克汽车张家口工厂:一座工厂的智造进化论
广域铭岛‘工厂大脑’产品落地领克张家口工厂,解决了数据割裂、异常处理难等问题。通过四个核心场景,实现管理、流程和决策升级,验证了‘数据+AI’在复杂制造场景中的价值。
九章云极发布AI工厂体系:破解140万亿Token时代的落地悖论|甲子光年
九章云极于6月17日发布Alaya NeW AI工厂体系,锚定十万P算力、十万亿Token、千个模型、千倍降本四大目标。该体系是智能工业化的必然产物,能解决资源难转生产力的难题,还具备技术效能、生态范式和商业飞轮三大支柱。
给 AI 建「流水线」,九章云极看清了什么?
AI产业竞争重心转变,当前缺智能生产度量基础设施。九章云极6月17日发布“AI工厂”战略及智算云3.0,构建从算力到智能的工程体系,试图填补空白,让智能生产可计量。
软件 3.0 时代来临
OpenAI 联合创始人 Karpathy 在 AI Ascent 2026 大会提出软件正经历第三次范式转移。从 Software 1.0 到 3.0,人类参与编程方式不断变化,3.0 用自然语言编程,中间层应用被模型原生能力吞噬。
京东广告大模型实战:GRAM 架构如何在 50ms 内完成生成式推荐?
流量红利见顶,广告营销转型遇挑战。京东张泽华在大会公开应对方案,介绍 GRAM 架构,实现意图与商品语义对齐,控制推理时延,解决冷启动等问题,还分享算法与知识工程实践。
等了五年,AI 终端 Warp 终于开源!OpenAI 赞助
Warp是用Rust写的AI终端,其创始人Zach Lloyd宣布开源,代码已推到GitHub。OpenAI是开源仓库「创始赞助商」。开发瓶颈转移,Lloyd提出开放智能体开发模式。Warp还内置编程Agent,有云端Agent编排平台Oz。
这个51K星标的开源神器,让任何Agent都能一键切换所有模型。
作者分享开源工具CC Switch,它能让Agent产品一键切换模型,已获50k星标。该工具全平台可用,可预填配置,还具备用量追踪、使用统计、故障转移等实用功能。
AI 驱动的数据库心脏:如何让云原生「自我进化」
本文深度解析腾讯云自研云原生数据库 TDSQL - C,它融合 Serverless、AI 技术,解决传统数据库痛点。具备存算分离、智能伸缩、AI 预测等特性,能降本增效,还可全球部署,为企业数字化出海提供数据基座。