云成本优化」共找到 2947 篇相关文章

开源动态8

千星项目LLMRouter:多模型路由,16+策略优化推理

UIUC开源智能模型路由框架LLMRouter,可自动为大模型应用选最优模型,有16+路由策略。该框架打通训练、评测等链路,解耦Route与Training模块,支持多轮协同等,还可插件式扩展。

新智元
新闻资讯7

全球数据库巨头收购Crunchy Data,增强AI Agent能力

全球数据库巨头Snowflake宣布收购Crunchy Data,发布新型Postgres数据库Snowflake Postgres,满足企业级AI和事务系统需求,具有安全合规等特点,有三大特色功能,推动其成为企业数据负载目的地。

AIGC开放社区
算法论文8

LLM算力告急?把文本变图片,推理成本直接减半!

大型语言模型处理长文本时计算成本高,本论文探索‘文本即图像’输入压缩策略,将长文本渲染为图像输入多模态模型,可减少近一半令牌,且任务性能不受显著影响,在多任务中验证了其有效性。

深度学习自然语言处理
产品应用8

Kubernetes环境中作业帮大模型服务流量调度优化实践

随着大语言模型应用渐广,Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案,整合成模型网关,具备五项核心功能,提升了资源效率、稳定性和易用性。

InfoQ
算法论文8

成本降70%!清华、阿里通义带来智能体长程任务新解法

AI智能体处理长程任务常遇上下文超载问题。清华与阿里通义研究人员提出MemPO算法,赋予大模型主动管理记忆能力,准确率提升,计算资源消耗降近七成,不过评价机制有局限。

AIGC开放社区
推荐文章7

为什么我坚决投入GEO(生成式引擎优化)?

AI改变流量分配规则,站长竞争焦点从‘排名位置’变为‘被引用率’,GEO应运而生。作者总结了GEO打法,如优化全站、关键页面,做结构化数据增强,还应用于自身产品。

newtype AI
新闻资讯7

成本下降 90%后,Figure 的下一步是机器人「自己造自己」?

近期,海外人形机器人公司 Figure 首席执行官 Brett Adcock 接受访谈,围绕「Figure 的核心技术与产品迭代」,就全栈端到端神经网络架构、数据壁垒与垂直整合等核心议题,阐述其通用人形机器人技术路线、产业逻辑与商业化实践。

机器之心
开源动态7

Crossplane 2.0 发布:在基础设施之上全面支持应用管理

Crossplane 开源项目发布 2.0 版本,将管理范围从基础设施拓展到应用与基础设施协同编排。解决了基础设施与应用需分开管理的问题,新增应用支持,改进组合资源,采用命名空间优先设计,还引入新 Operation 类型。

InfoQ
推荐文章7

原生到 AI 原生:模型引发的新一代基础设施构建

本文整理自蚂蚁集团余锋在2025年QCon上海站的分享。回顾基础设施从计算到AI原生的演进,指出模型成新数据库,基础设施围绕其构建,还探讨了Agent体系影响、通智一体趋势及面临的挑战与机遇。

InfoQ
开源动态8

Meta联手UCSD发布DeepConf:计算成本暴降85%,99.9%准确率!

Meta AI联合UCSD推出DeepConf技术,解决了AI高难度推理准确率与计算成本的难题。它让AI学会“察言观色”,筛选靠谱推理路径,在AIME 2025竞赛中与GPT - OSS - 120B模型取得99.9%准确率,还节省大量计算资源。

AIGC开放社区