推荐文章7
蚂蚁吴伟:揭秘GPU训推一体池化调度
InfoQ
AI 摘要
蚂蚁吴伟:大模型时代,CPU和GPU有结构性差异;只在推理或训练内优化,资源会闲置;国产卡差全链路生态;软件优化有天花板,硬件极限时还得扩容。
阅读原文 · InfoQ
对话蚂蚁吴伟:训推一体池化调度,如何把GPU用到极限
AICon大会前,与蚂蚁集团吴伟深度对话,探讨GPU资源调度解法。他指出CPU和GPU有结构性差异,只在推理或训练内优化有资源闲置,国产卡缺全链路生态,软件优化有天花板。还分享架构思路、算法及落地效果等。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
英伟达推 AI 智能体 CPU,消费者或为产能变化买单
2026 年英伟达宣布量产为 AI 智能体打造的 CPU Vera。此前 AI 产业硬件焦虑多围绕 GPU,如今 AI Agent 改变任务形态,CPU 负担加重,芯片厂商纷纷布局,产能变化或让消费者买单。
DeepTech深科技
新闻资讯7
黄仁勋锁定OpenAI 20年芯片收入
英伟达推出‘LPS’概念,联合投资机构出5000亿美元建数据中心,为客户担保。首个项目为在美为OpenAI建150万GPU数据中心,20年或带来巨额芯片收入。黄仁勋也对相关风险做了澄清。
量子位
新闻资讯7
黄仁勋拉华尔街5000亿,为AI算力融资
8月11日,英伟达宣布与六家金融机构合作,成立算力融资平台,欲动员超5000亿美元,把算力做成可融资生意。其将英伟达全栈AI基础设施当可投资资产,客户按需付费,但英伟达股价不涨反跌,这场豪赌结果待察。
新智元
新闻资讯7
黄仁勋拉华尔街搞5000亿AI基建融资
黄仁勋宣布NVIDIA与多家金融机构合作,建立融资平台,撬动超5000亿美元第三方资本建设AI基础设施。他推出AI工厂概念,称算力能成可投资资产,还回应了循环投资质疑。
量子位