「推理服务基础设施」共找到 2930 篇相关文章
Agent 狂欢热潮下的冷思考：为什么规模化落地总是陷入僵局？
Agent热潮下企业规模化落地遇阻，因其与传统AI应用不同，面临弹性、运维和治理挑战。腾讯云Agent Runtime围绕Agent生命周期构建基础设施，覆盖两大核心场景，已获批量验证。
评论送书 | Al智能体与传统AI应用的区别？它如何工作？如何快速构建智能体？
文章对比AI智能体与传统AI应用，指出前者更像“乐高积木”，可融入生活工作。介绍其工作是“感知—推理—执行—学习”循环，还给出快速构建通用方法，如明确目标、选框架等。
华为版《黑客帝国》首次亮相：训推复杂AI前先“彩排”，小时级预演万卡集群
华为首次亮相数字化风洞虚拟环境平台，可在训推复杂AI模型前“彩排”，小时级预演万卡集群。其包含Sim2Train、Sim2Infer、Sim2Availability，分别解决训练、推理、高可用问题。
爆冷！字节Seed 在CCPC 决赛只做出一道签到题，而DeepSeek R1 直接挂零？
第十届 CCPC 举行，字节 Seed 携 Seed - Thinking 参赛，结果意外，仅做出一题，DeepSeek R1 挂零。不同模型架构表现差异不大，暴露出大模型做算法题短板，推理模式表现更好。
黄仁勋拉六大金融巨鳄入局！狂砸5000亿美金建AI工厂：算力即收入
英伟达黄仁勋拉Apollo、黑岩等六家金融巨鳄入局，将调动超5000亿美元资本建AI工厂。他认为AI从研究走向生产，算力即收入，且英伟达算力特殊，具备基础设施资产投资属性。
当 AI 产品卷向同质化，支付成为最后的增长杠杆
AI应用商业化进入新阶段，头部效应显现，竞争同质化严重。支付成为关键变量，其复杂性远超预想，支付失败损耗大。优化支付需系统诊断，它是商业化基础设施，影响营收。全球支付格局复杂，Payinsider助力企业搭建支付架构。
5.2万Star项目被迫出走GitHub，但开源世界只剩更差的选择
Ghostty 项目创始人 Mitchell Hashimoto 宣布项目将逃离 GitHub，因其频繁故障影响工作。开发者群体对 GitHub 现状失望，认为平台重心转向 AI 产品致基础设施变差。但 GitHub 外的开源替代方案都有明显缺陷。
AI让全人类思维越来越雷同！南加大研究实锤：认知多样性正在被抹平
南加州大学论文指出，AI正让全人类想法和表达同质化，体现在语言、视角和推理三方面。原因包括训练数据有偏差、训练目标求稳、人们过度依赖。研究人员虽在想办法，但效果有限，呼吁勿无节制依赖。
阿里发布信息检索Agent，可自主上网查资料，GAIA基准超越GPT-4o | 模型&数据开源
阿里发布WebDancer信息检索Agent，能自主上网查资料。它具备多步推理等能力，采用四阶段训练范式，模型和方法已开源。在多个基准测试中表现优异，突显处理复杂任务的鲁棒性和有效性。
DeepSeek研究员1200行代码复刻vLLM，H800硬件实测性能反超原版
DeepSeek研究员俞星凯搞出开源项目Nano - vLLM，仅用不到1200行代码实现最小化且完全可读的vLLM。它有快速离线推理、代码可读性强、含优化套件等特点，在H800硬件实测中性能反超原版vLLM。