搜索：Triton推理服务器

「Triton推理服务器」共找到 2193 篇相关文章

算力租赁要变天了

去年华尔街就算力巨头折旧问题起争议，大空头Michael Burry称其通过延长AI服务器折旧周期虚增利润。随着英伟达GPU迭代周期缩短，折旧时间应缩短。Coreweave靠出租GPU盈利，以其为抵押物的巨额贷款引发争议。Meta出租闲置算力或冲击Coreweave等公司。

近日，蚂蚁集团联合浙江省卫生健康委开源自研的蚂蚁·安诊儿医疗大模型。它基于蚂蚁百灵大模型架构，经深度训练，是参数规模最大的开源医疗模型。该模型在多评测中表现出色，有三阶段训练流程，架构高效、推理快，已开源助力行业发展。

英伟达推出新一代开源模型Nemotron 3 Super，专为大规模AI智能体打造，有1200亿参数，推理快、吞吐量高，性能直逼Claude Opus 4.6等。它解决了Agent应用的难题，还开源了相关数据和训练方法。此外，英伟达还在打造NemoClaw开源AI智能体平台。