开源动态8

COMET框架让大模型推理加速

AIGC开放社区2025-05-23

AI 摘要

计算所王颖研究员团队等：全球大模型能耗高、传统量化技术有局限，COMET框架通过多方面优化，实现全4比特推理性能突破，精度损失小、加速显著，且已开源。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

谷歌TPU跑Kimi比英伟达GPU快57%

本文报道由vLLM原班人马创立的Inferact公司，联合谷歌优化后，16块谷歌TPU v7跑Kimi K3速度比同数量英伟达GB200快57%，相关代码已开源，详解了背后的技术优化思路。

当前大模型算力需求攀升，高端GPU供给紧成本高，大量PCIe长尾GPU算力因框架适配不足被禁锢。是石科技自研Meta-Infer推理引擎，通过纯软件优化挖掘硬件潜力，让DeepSeek推理吞吐提升近7倍，方法也适配国产GPU。

本文报道英特尔在苏州技术创新生态大会上提出，Agent时代改变了AI算力配比结构，CPU承担更多调度、数据预处理工作，其在AI系统中的价值亟待重估，同时介绍了英特尔的相关产业布局。

本文是腾讯15年资深后台工程师吴银光的转型自述，分享了他从零切入大模型推理工程的抉择过程，给出了清晰的入门路径与自检方法，分析了AI Infra与传统Infra的异同，为有意转型AI的技术人提供了实用参考。