产品应用8
腾讯优化Hy3 preview模型推理性能
腾讯技术工程
AI 摘要
腾讯混元AI Infra推理团队:为解决大模型推理效率瓶颈,从五大维度对Hy3 preview模型在Hopper卡上进行优化,取得显著性能提升,后续还将推进显存优化等工作。
阅读原文 · 腾讯技术工程
腾讯混元AI Infra如何优化Hy3 Preview:一次大模型推理性能提升的技术拆解
文章聚焦腾讯混元AI Infra对Hy3 preview模型的推理性能优化。从算子优化与融合、并行策略等五大维度,剖析技术思路、算法及收益,如Attention算子单batch长文本最高加速2.95x,还提及后续显存优化等工作。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
大厂Agent混战,10多个AI名品被“杀”
2026年8月AI圈组织架构调整频繁,阿里、字节整合多款产品,腾讯、百度也有动作。办公Agent成大厂混战核心,虽有产品被整合,但各厂优势不同,终局难测。
鲸选AI
开源动态8
腾讯开源SCoPE,革新视频世界模型坐标系
香港大学、香港科大与腾讯ARC Lab联合提出SCoPE,让视频模型处理位置关系的基底从张量网格转向射线空间。它将相机射线坐标注入Video DiT,新增参数不到原模型0.1%,多方面表现获改善。
机器之心
新闻资讯8
腾讯秋招AI产品经理培训生
腾讯2027届「AI产品经理培训生」岗位开始投递,公开选拔流程与用人要求。选拔不看学历标签,新设流程重实际表现。对人才要求贴合AI产品工作,培养体系成熟,岗位含金量高,值得应届生尝试。
AGI Hunt
新闻资讯8
林俊旸携新公司押注Agent赛道
前阿里Qwen负责人林俊旸创办Pragmatik Labs/语用科技,研究跨数字与物理世界的下一代agent。红杉中国、高榕创投领投,腾讯等跟投。其目标是用agent实现终极生产力,有独特技术底色与愿景。
PaperAgent