产品应用8
华为两大黑科技破推理魔咒
新智元
AI 摘要
华为:为解决MoE模型推理速度和延迟问题,推出FusionSpec和OptiQuant。前者将投机推理耗时降至1ms,后者支持灵活量化,双剑合璧开辟推理新路径。
阅读原文 · 新智元
华为曝光两大黑科技!打破推理延迟魔咒,大模型从此「秒回」
华为通过FusionSpec和OptiQuant两大技术创新,对MoE模型进行推理优化。FusionSpec依托昇腾特点,将投机推理框架耗时降至1ms;OptiQuant支持灵活量化,为大模型推理提供高性价比。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用8
自然意志发布Natura-1具身智能模型
本文报道北京具身智能公司自然意志发布全新Natura-1模型,该50B参数MoE模型基于百万小时人类第一视角经验预训练,可驱动20自由度灵巧手实现零样本泛化,完成各类复杂日常操作,攻克了机器人灵巧与通用难以兼得的难题。
机器之心
新闻资讯8
自然意志发布Natura-1通用基础模型
自然意志是专注物理世界通用智能的研究公司,本文正式发布其首个面向物理世界的通用基础模型Natura-1,介绍了模型技术方案、评测结果与发展路线。
五源资本 5Y Capital
新闻资讯8
江波龙高通合作手机端跑通30B大模型
本文报道江波龙携手高通,在2026骁龙峰会上基于第六代骁龙8超级至尊版移动平台,跑通端侧30B-MoE大模型本地推理,探讨存储行业转型AI技术周期的产业逻辑。
甲子光年
产品应用8
华为升级AI数据平台解决Agent痛点
本文针对企业落地AI Agent遇到的知识口径不一、推理慢、风险不可控等痛点,介绍华为AI数据平台三大升级路线,结合案例说明方案价值。
InfoQ