推荐文章7
专家共探大模型 Infra 工程师实战难题
InfoQ
AI 摘要
华为 ZOMI 酱、蚂蚁马介悦、SGLang 尹良升探讨大模型工程。指出训练有稳定性等问题,推理有性能和运行时错误。版本迭代要平衡新旧特性,成本优化可从部署、缓存和资源利用入手,开源需做好社区运营。
阅读原文 · InfoQ
AI Infra 工程师们如何应对大模型流水线里的“暗涌”?
InfoQ《极客有约》X AICon 直播,邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
发布9天,Jev估值破百亿美元
本文报道AI初创公司TypeSafe AI发布的模型Jev上线仅9天,就传出投资者给出超百亿美元估值,剖析资本追捧低价薄利模式的原因,同时梳理业内对其护城河的质疑,探讨大模型赛道资本动向。
DeepTech深科技
新闻资讯8
机器人的GPT时刻就是GPT本身?
本文围绕GPT-6 Astra发布后的行业测试展开,讨论通用大模型能否成为机器人的通用大脑,分析了通用大模型参与机器人控制的原理与优势,点明当前能力边界,提出了分工协作的落地方案。
DeepTech深科技
新闻资讯8
谷歌AI踩油门:Gemini冲刺TPU上天
本文报道谷歌近期AI业务最新动态,涵盖Gemini 4大模型研发进展、TPU上太空测试计划,以及工程师因AI发展太快辞职事件,展现谷歌AI全面加速的现状。
量子位
新闻资讯8
AI时代,计算机科学界死了吗?
本文整理了德克萨斯大学奥斯汀分校AI博士生曹晋的公开发帖,围绕大模型冲击下AI学术界灌水严重、研究范式过时的观点展开,探讨AI研究者与博士生的未来出路,引发业内广泛讨论。
机器之心