产品应用8
微信XNet-DNN引擎性能卓越
腾讯技术工程
AI 摘要
腾讯微信团队:自研 XNet-DNN 推理引擎,基于 RCI 框架构建跨平台 GPU LLM 推理能力,在推理效率等指标上超现有方案,还通过系统和算子优化提升性能,未来将多方面持续完善。
阅读原文 · 腾讯技术工程
微信自研高性能推理计算引擎 XNet-DNN:跨平台 GPU 部署大语言模型及优化实践
本文深入解析微信自研的高性能推理计算引擎 XNet-DNN,介绍其核心技术架构和性能优化策略。该引擎基于 RCI 框架构建跨平台 GPU LLM 推理能力,在多方面超越现有解决方案,还给出了详实对比实验数据。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章9
Anthropic靠Claude把产品提速3倍
本文是花叔对Anthropic工程师Claude提速复盘的深度拆解,公开了Anthropic用AI辅助做产品性能优化的完整方法,花叔还实战验证了这套方法,整理出可复用的「闪电.skill」工具开源放出。
花叔
推荐文章9
用Agent优化SGLang 性能大幅提升
本文是百度百舸与SGLang联合Meetup的分享整理,讲解如何让Agent完成从瓶颈定位、Kernel修改到端到端验证的全流程SGLang性能优化,覆盖多类模型场景,公布实测性能提升数据与百度百舸的通信优化效果。
GiantPandaLLM
新闻资讯8
Agent时代,CPU价值该重估了
本文报道英特尔在苏州技术创新生态大会上提出,Agent时代改变了AI算力配比结构,CPU承担更多调度、数据预处理工作,其在AI系统中的价值亟待重估,同时介绍了英特尔的相关产业布局。
量子位
产品应用9
一张GPU跑十万原子模拟化学反应
分子之心推出反应性机器学习力场QuantaMind,仅用单张GPU即可实现十万原子级化学反应高精度模拟,突破了分子模拟领域精度、时间、规模不可能三角,大幅降低计算门槛,可应用于酶工程、抗体设计等研发领域。
量子位