返回首页
开源动态7

智源 FlagOS 让昇腾 910C 速度翻倍

奇点折射
AI 摘要

智源开源软件栈 FlagOS 2.2 联合清昴智能,将华为昇腾 910C 运行智谱 GLM 大模型的推理速度从 20 多翻倍至五十多 TPS,跨过商业交付门槛。

存量提效:昇腾 910B 首字延迟降 81.4% 至 3.1 秒

跨芯复用:平头哥性能提升超 77%,海光提升超 25%

生态覆盖:覆盖 20 家芯片后端的超过一千四百五十个通用算子

阅读原文 · 奇点折射
当“Token工厂”进入国芯时代:大模型商业化的胜负手,正悄然移向芯片之下
智源开源软件栈 FlagOS 2.2 联合清昴智能,将华为昇腾 910C 运行智谱 GLM 大模型的推理速度从 20 多翻倍至五十多 TPS,跨过商业交付门槛。

相关文章