「推理服务基础设施」共找到 2949 篇相关文章
AI训练初创公司Mercor，年运收入4.5亿美元，冲击100亿美元估值
AI训练初创公司Mercor正洽谈C轮融资，目标估值100亿美元或更高。它为OpenAI等对接专家，还提供数据标注服务，年化运营收入近4.5亿美元，但也面临Surge AI等对手竞争，OpenAI新平台或带来新威胁。
郭台铭，重回首富宝座
曾经放言“给大陆赏饭吃”的郭台铭，因工业富联市值突破万亿，再次被大陆资本市场推上中国台湾首富宝座。工业富联在AI算力基础设施领域表现抢眼，其AI服务器业务成增长主力。郭台铭海外投资受挫后回归内地，推动公司转型。
黄仁勋搬来华尔街5000亿，买GPU可以按揭了
8月11日，英伟达宣布与六家金融机构合作，成立算力融资平台，欲动员超5000亿美元，把算力做成可融资生意。其将英伟达全栈AI基础设施当可投资资产，客户按需付费，但英伟达股价不涨反跌，这场豪赌结果待察。
OpenAI自研芯片270天光速成功！谷歌TPU大将主导，老黄一夜大客户变对手
OpenAI发布自研推理加速芯片Jalapeño，与博通和Celestica合作打造，专为大模型优化，9个月就流片。操刀者是前谷歌TPU核心成员Richard Ho，计划2026年底部署。此前谷歌、微软等已自研芯片，英伟达客户变对手。
RAG新SOTA，还在5亿条数据上跑进秒级，只有它了
本文围绕RAG技术展开，指出传统RAG在多跳推理等方面存在局限。介绍了GraphRAG、HippoRAG 2的优缺点，重点阐述Zleap AI的SAG方案，它用超边结构重构数据底座，在多跳问答测试中表现出色，还能在大规模数据下低延迟落地。
苏姿丰出手！Oracle下单5万颗AMD芯片，英伟达王座撼动
Oracle宣布2026年第三季度起在云基础设施部署5万颗AMD Instinct™ MI450系列GPU构建AI超级集群并持续扩容。AMD Instinct MI450系列GPU亮点多，此次合作是其与Oracle合作的深化，也被视为AMD挑战英伟达的关键突破。
只需一次指令微调，大模型变身全能专家天团，8B模型性能反超全微调基线 | ACL25 Oral
预训练大模型适应专业领域需高昂微调成本，稀疏混合专家架构虽能提升推理效率，但从头训练耗资源。浙大与Thomson Reuters团队提出SIMoE，单阶段微调就能升级大模型，还解决传统方法两大局限，在性能和效率上双突破。
刚刚！北大校友Lilian Weng最新博客来了：Why We Think
北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算的研究进展，探讨让模型“思考更久”的方法。文中介绍了思维链、潜变量建模等策略，还提及多种提升生成质量的策略，如并行采样与序列修订，以及强化学习提升推理能力等内容。
GPT-6数学封神，遭顶尖数学家公开质疑“算力截胡”？OpenAI内部研究员撕开Astra真相：人脑更容易被污染，而AI只看概率
OpenAI推出GPT-6 Astra，接连在埃尔德什单位距离猜想、纳维-斯托克斯方程等多个顶级数学难题上取得突破性进展，引发顶尖数学家对学术伦理与传统研究模式的争议，本文为OpenAI内部研究员的深度对谈编译，拆解AI数学推理的核心逻辑。
突发！Fable 5.1遭黑客破解，27万字提示词泄露
Fable 5.1和Mythos 5.1发布，Fable 5.1推理成本低32%。但发布几小时后被破解，27万字提示词泄露，曝光了其安全限制、隐私保护等秘密。它工具增加，还破解密码、能完成多种任务，不过也有用户抱怨耗token等问题。