产品应用8

火山引擎xLLM：一张卡榨两倍性能

机器之心2025-05-27

AI 摘要

火山引擎：大模型落地遇推理效率门槛，xLLM 框架性能强，同样的卡能跑出两倍性能，成本低。它集成多项创新，还被集成到 ServingKit 套件，让企业用卡更值。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

启邦泽益：推理算力性价比突围

本文整理自启邦泽益联席CEO马冠华在2026芯算力创新峰会上的演讲，针对大模型推理爆发、算力成本高企的行业痛点，介绍启邦泽益从芯片到集群的全栈高性价比推理算力方案。

本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。

OpenAI推出GPT-6 Astra，接连在埃尔德什单位距离猜想、纳维-斯托克斯方程等多个顶级数学难题上取得突破性进展，引发顶尖数学家对学术伦理与传统研究模式的争议，本文为OpenAI内部研究员的深度对谈编译，拆解AI数学推理的核心逻辑。

随着模型规模增长、新应用兴起，大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast，解耦张量状态，复用管理能力，在多场景测试中表现出色，为大模型基建提供新范式。