产品应用8

软件优化让PCIe显卡吞吐翻近7倍

量子位2026-09-24

AI 摘要

是石科技自研Meta-Infer推理引擎，通过内核补齐、通信重构等纯软件优化，无需修改模型结构，让PCIe显卡DeepSeek推理吞吐提近7倍，可适配国产GPU，缩小与高端显卡性能差距。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

天数智芯端侧设备实测超英伟达Thor

国产 GPU 厂商天数智芯展示端侧设备彤央 TY1200，标称算力 300 TOPS，可在本地完成机器人仿真训练全流程，实测大模型吞吐超越英伟达 Thor T5000。

大模型后训练推高专业数据身价，单条完整操作数据最高卖到1万元。随着阿里、腾讯与DeepSeek等大厂加码采买，成立不到一年的数据创业公司估值已冲上25亿美元。

DeepSeek Harness开源原型系统，探索跨会话任务调度。在约300条消息的合成测试中，其任务完成p95时间为15.7分钟，比单会话方案的29.5分钟缩短近半。

DeepSeek 开源 Super-agent 架构原型，无需人工指令即可主动排查 Bug 并提交代码，多任务协作测试中任务完成时间中位数为 12.4 分钟。