吞吐量提升」共找到 2953 篇相关文章

推荐文章7

“谈故障色变”到有章可循:美图 SRE 故障应急与复盘实践

在 InfoQ 举办的 QCon 全球软件开发大会上,美图高级运维经理石鹏分享美图 SRE 团队故障应急与复盘实践,探讨故障应急各环节,剖析故障本质与原因,还交流 AIOps、LLM Ops 等技术。

InfoQ
算法论文8

从「知题」到「知人」:UserRL让智能体学会「以人为本」

大语言模型距成真正用户伙伴缺‘知人’能力。来自UIUC与Salesforce团队提出UserBench和UserRL方案。前者将‘用户特性’制度化,构建评测环境;后者搭建统一强化学习框架,探索奖励建模,二者让‘以用户为中心’落地。

机器之心
算法论文8

国科大 | 提出进化算法:EvolKV,自适应分配KV Cache,预算降至1.5%!

键值缓存(KV cache)是大模型快速运行核心技术,但输入文本越长,存储和处理问题越突出。国科大提出进化算法EvolKV,自适应分配KV Cache,实验显示其效果显著,预算可降至1.5%。

AINLPer
新闻资讯7

Meta与Midjourney合作,集成在新模型中

Theverge消息,Meta首席人工智能官宣布将Midjourney技术整合到未来AI模型和产品。合作对Meta意义大,可对标领先模型。Meta早有布局,Midjourney发展快且营收可观,采用订阅制。

AIGC开放社区
新闻资讯8

字节发布全球首个预测未来基准FutureX,Grok-4 拿下冠军

字节跳动发布全球首个实时未来预测基准测试FutureX,杜绝模型作弊。在25个模型评测中,Grok - 4夺冠。它从多网站构建问题,分四级难度。人类专家在部分等级仍领先AI 。

AGI Hunt
新闻资讯7

清北浙领跑两院新院士候选!最年轻被提名人39岁

8月20日,中科院和工程院公布2025年院士增选有效候选人名单。清北浙领跑,最年轻候选人39岁。人工智能地位提升,机器人技术成优先支持学科,反映国家对新兴领域的重视。

量子位
产品应用8

百度文库网盘发布 GenFlow2.0,支持同时调用超 100 个专家智能体

8月18日,百度文库联合百度网盘发布全球首个全端通用智能体「GenFlow2.0」。它支持超100个专家智能体并行工作,解决描述难、等待久等问题,还打通百度生态资源,兼容MCP协议,接入荣耀智能助理。

InfoQ
新闻资讯7

惠州老板搭上英伟达,公司市值半年飙涨1300亿

胜宏科技董事长陈涛白手起家,带领公司深度绑定英伟达等头部客户。2024年营收超107亿,市值半年涨1300亿。今年公司积极融资扩张,同时高管减持引投资者担忧。

芯师爷
开源动态8

狂涨26.5K star!一个接口搞定20+AI大模型,开箱即用,太香了!

文章介绍开源项目One API,它是LLM API管理与分发系统,能统一管理主流AI模型,用一个接口搞定调用。有友好界面和可视化操作,在Github获26.5K star,还介绍其性能特色、安装使用方法。

开源先锋
产品应用7

Grab 订阅平台从 SQS 和 Redis 切换到 Temporal

Grab基于Temporal构建新的GrabUnlimited架构,增强用户体验,将订阅平台生产事件减少80%。原架构用SQS和Redis,随订阅者增多问题频出,新架构利用Temporal特性解决诸多难题。

InfoQ