新闻资讯7
专家共探大模型 Infra 工程师实战难题
AI前线
AI 摘要
华为昇腾 ZOMI 酱、蚂蚁集团马介悦、SGLang 尹良升探讨大模型工程。提及训练稳定性、并行策略兼容等问题,还谈推理降本、开源运营挑战及 GPU 虚拟化趋势,6 月 AICon 北京站将聚焦 AI 前沿。
阅读原文 · AI前线
AI Infra 工程师们如何应对大模型流水线里的“暗涌”?
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
开源动态8
一行Python,绘绝美城市地图海报
开源君发现宝藏项目`prettymaps`,这是巴西开发者Marcelo Prates的开源作品,能从OpenStreetMap拉取数据画定制地图。它功能丰富,安装简单,可让普通人轻松进行地图视觉创作。
开源先锋
开源动态7
11.2k Star LiveContainer:iOS测试新利器
LiveContainer官方定义是app launcher,能将多个IPA以访客App形式放进运行环境加载,可在现有iOS规则里降低测试摩擦,获11.2k Star。但它并非虚拟机或强隔离沙箱,使用有诸多限制。
小华同学ai
推荐文章7
向量存储:支撑Agent检索链路新势力
文章指出大模型负责理解、推理和生成,而Agent需获取外部数据等。向量存储可将数据转化为语义向量,在Agent执行任务时找回相关内容。文章探讨向量存储技术方向,分享做法,还演示阿里云两种Serverless向量存储用法。
阿里云开发者
开源动态8
OpenStory:让AI短剧制作工业化
现在制作完整AI短剧流程繁琐,很多团队是小作坊式生产,效率低且难规模化。OpenStory开源项目站在成熟AI服务肩上,将AI短剧制作工业化,能把剧本变成风格统一的视频作品,解决诸多痛点。
开源星探