产品应用8
微信XNet-DNN引擎性能卓越
腾讯技术工程
AI 摘要
腾讯微信团队:自研 XNet-DNN 推理引擎,基于 RCI 框架构建跨平台 GPU LLM 推理能力,在推理效率等指标上超现有方案,还通过系统和算子优化提升性能,未来将多方面持续完善。
阅读原文 · 腾讯技术工程
微信自研高性能推理计算引擎 XNet-DNN:跨平台 GPU 部署大语言模型及优化实践
本文深入解析微信自研的高性能推理计算引擎 XNet-DNN,介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力,在多方面超越现有解决方案,还给出了详实对比实验数据。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
英伟达推 AI 智能体 CPU,消费者或为产能变化买单
2026 年英伟达宣布量产为 AI 智能体打造的 CPU Vera。此前 AI 产业硬件焦虑多围绕 GPU,如今 AI Agent 改变任务形态,CPU 负担加重,芯片厂商纷纷布局,产能变化或让消费者买单。
DeepTech深科技
新闻资讯7
黄仁勋锁定OpenAI 20年芯片收入
英伟达推出‘LPS’概念,联合投资机构出5000亿美元建数据中心,为客户担保。首个项目为在美为OpenAI建150万GPU数据中心,20年或带来巨额芯片收入。黄仁勋也对相关风险做了澄清。
量子位
新闻资讯8
Ilya携新模型归来,重新定义AI规模化
掌握内幕的草莓哥爆料,Ilya正构建以TTT为核心的小型推理引擎。他预见传统大模型的死穴,SSI将TTT概念落地,其引擎在数据效率等方面优势明显。SSI获投资,本月或发新模型。
新智元
新闻资讯7
Ilya首个模型或8月曝光
前OpenAI首席科学家Ilya离开两年后,X网友爆料其创办的SSI正探索基于TTT的小型推理引擎,当前版本或8月向少数用户开放。该爆料与Ilya观点及英伟达合作等线索相符,但也面临安全难题。
量子位