推荐文章8

曾书霖谈大模型推理软硬协同优化

InfoQ2026-03-12

AI 摘要

无问芯穹曾书霖：AI 2.0 时代大模型推理需求激增，需软硬协同。云侧提出 P/D 半分离方案优化推理；端侧开展软硬件协同优化，在联想 AI PC 上性能提升两倍。未来端云需协同助力大模型落地。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

ACL两篇技能论文杀疯了

本文整理六大2026顶会共460篇高引机器学习论文，详细介绍ACL下两篇聚焦技能拆解复用的高引论文，给出效果数据与论文链接，开放论文合集获取。

本文报道由vLLM原班人马创立的Inferact公司，联合谷歌优化后，16块谷歌TPU v7跑Kimi K3速度比同数量英伟达GB200快57%，相关代码已开源，详解了背后的技术优化思路。

当前大模型算力需求攀升，高端GPU供给紧成本高，大量PCIe长尾GPU算力因框架适配不足被禁锢。是石科技自研Meta-Infer推理引擎，通过纯软件优化挖掘硬件潜力，让DeepSeek推理吞吐提升近7倍，方法也适配国产GPU。

本文是腾讯15年资深后台工程师吴银光的转型自述，分享了他从零切入大模型推理工程的抉择过程，给出了清晰的入门路径与自检方法，分析了AI Infra与传统Infra的异同，为有意转型AI的技术人提供了实用参考。