「推理服务基础设施」共找到 2930 篇相关文章
开源即登榜！登顶全球前十AI编程智能体，UCL初创团队开源Prometheus
UCL初创团队EuniAI开源AI软件智能体Prometheus，在SWE - bench Verified上Pass@1达71.2%，成绩入官方主榜。它有图结构推理设计，能理解代码，成本低，官网有Demo展示其工程化能力。
Claude Opus 4.1火速发布！坐稳编程之王，官方：马上还有大更新
Claude Opus 4.1正式发布，编程性能超Claude Opus 4及竞品，拿下SOTA。在Agent任务和推理方面升级，定价不变。官方将在几周内大规模改进。Anthropic借客户背书，暗秀关系，文风受开发者喜爱。
0.5B以小搏大拿下端侧模型新SOTA：4090可跑，长文本处理5倍常规加速丨清华&面壁开源
清华大学和面壁智能团队开源MiniCPM 4，有8B、0.5B两种参数规模，以22%训练开销达同级别最优。它在架构、推理、数据、训练多方面创新，性能领先，适用于综述生成、工具调用等场景。
金融大模型升级决策平台！马上消费发布“天镜”3.0破解经验碎片化难题
6月6日“2025消费金融生态大会”在重庆举行，马上消费常务副总经理蒋宁推出全面迭代的“天镜”3.0。它开启从个体到群体智慧跃迁，挖掘隐性经验，能匹配最佳服务路径，还具备协同进化能力。
SmolVLA: 让机器人更懂 “看听说做” 的轻量化解决方案
文章介绍轻量级开源视觉 - 语言 - 动作 (VLA) 模型 SmolVLA，专为机器人领域设计，可在消费级硬件运行。它用公开数据集训练，架构经优化，还引入异步推理堆栈，性能超部分大模型，降低研究门槛。
百度想明白了：旧供给到达极限了
当下企业应用AI时，Token成本高、推理效率低问题凸显。百度Create大会释放旧供给达极限信号，推出新全栈AI云，含Agent Infra和AI Infra两层架构，多个场景应用初显成效。
10小时连崩4次、Claude疯狂宕机！刚把ChatGPT干到295%卸载量，就没顶住二次“爆红”？
昨日，Anthropic旗下Claude及Claude Code服务中断，10小时内连崩4次。此前特朗普下令停用Claude，但其用户量激增，还让ChatGPT卸载量暴涨295%，Anthropic还升级Claude记忆功能降低迁移门槛。
黄仁勋做客美国第一播客：每天都在担心英伟达倒闭
英伟达CEO黄仁勋做客美国第一播客Joe Rogan，畅谈AI底层逻辑与技术演进，还分享英伟达创业历程。他指出AI已从检索转向推理，数据中心成“AI工厂”，并坦言每天担心公司倒闭。
高盛研报：AI时代最大瓶颈不在算法和数据，而在电力和资本
高盛《Powering the AI Era》报告指出，AI是基础设施革命，其最大瓶颈是电力和资本。如一座250MW数据中心成本达120亿美元，2030年全球数据中心电力需求将激增，还介绍了应对办法及相关细节。
陈丹琦新作：大模型强化学习的第三条路，8B小模型超越GPT-4o
陈丹琦团队提出结合RLHF和RLVR优点的RLMT方法，支持在基础模型上直接使用，节省后训练成本。它让模型生成CoT，用奖励模型评价输出，使小模型超越大模型，推理更像人类。