产品应用7

昇腾 910B 实测：vLLM 与 MindIE 性能大比拼

探索AGI2025-06-23

AI 摘要

实测昇腾 910B 大模型，用 GPUStack 对比 vLLM Ascend 和 MindIE。结果表明，中小模型单卡 vLLM 优，高并发 vLLM 扩展性好，多卡部署 MindIE 强，选型需结合业务等综合判断。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

腾讯15年工程师转战大模型推理

本文是腾讯15年资深后台工程师吴银光的转型自述，分享了他从零切入大模型推理工程的抉择过程，给出了清晰的入门路径与自检方法，分析了AI Infra与传统Infra的异同，为有意转型AI的技术人提供了实用参考。

本文整理自启邦泽益联席CEO马冠华在2026芯算力创新峰会上的演讲，针对大模型推理爆发、算力成本高企的行业痛点，介绍启邦泽益从芯片到集群的全栈高性价比推理算力方案。

本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。

OpenAI推出GPT-6 Astra，接连在埃尔德什单位距离猜想、纳维-斯托克斯方程等多个顶级数学难题上取得突破性进展，引发顶尖数学家对学术伦理与传统研究模式的争议，本文为OpenAI内部研究员的深度对谈编译，拆解AI数学推理的核心逻辑。