推荐文章7
AI Infra:传统方法论仍适用于新挑战
腾讯技术工程
AI 摘要
QQ基础架构算法工程团队作者分享AI Infra经验。指出硬件从CPU到GPU,软件依赖深度学习框架,模型训练要解决存储和速度问题,推理要降低延时、提高吞吐量,传统方法论仍可用。
阅读原文 · 腾讯技术工程
入局AI Infra:程序员必须了解的AI系统设计与挑战知识
文章分享传统后台工程师技术栈和方法论如何迁移到AI系统,系统性拆解AI Infra的硬件、软件、训练和推理挑战,如硬件从CPU到GPU、软件依赖深度学习框架,还分析训练和推理面临的问题及解决办法。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
两笔重磅融资透露国产算力投资新方向
本文报道10月12日国产算力领域两笔超20亿元重磅融资,一软一硬两家企业均布局算力中间层,分析资本动向背后国产算力产业的新竞争逻辑。
芯师爷
新闻资讯9
无问芯穹23亿融资 刷新AI Infra纪录
AI原生基础设施服务商无问芯穹完成23亿元C轮融资,累计融资达43亿元,创下国产AI原生基础设施赛道单轮、累计融资双纪录。公司定位模型与芯片中间层,整合异构算力降本提效,已递交港交所IPO申请。
量子位
新闻资讯8
Agent时代,CPU价值该重估了
本文报道英特尔在苏州技术创新生态大会上提出,Agent时代改变了AI算力配比结构,CPU承担更多调度、数据预处理工作,其在AI系统中的价值亟待重估,同时介绍了英特尔的相关产业布局。
量子位
推荐文章9
腾讯15年工程师转战大模型推理
本文是腾讯15年资深后台工程师吴银光的转型自述,分享了他从零切入大模型推理工程的抉择过程,给出了清晰的入门路径与自检方法,分析了AI Infra与传统Infra的异同,为有意转型AI的技术人提供了实用参考。
腾讯技术工程