「推理服务基础设施」共找到 2949 篇相关文章
OpenAI放大招！核心API支持MCP，一夜改变智能体开发
今天凌晨，OpenAI全资收购io消息吸睛，还悄悄宣布核心API——Responses API支持MCP服务。这简化智能体开发，还能集中管理工具、保障安全。此外，Responses API的图像生成等工具也有更新，并引入新功能。
一分钟做3D音符版“跳一跳”，Flowith成通用Agent新“必玩王者”丨TIP 003
Flowith作为较早出海的AI产品，以自由画布+通用Agent组合出圈。其Neo版本技术功能强，产品服务有亮点，如不限DeepResearch任务、以人为主的智能代理、回答速度快等，虽有不足但未来值得关注。
Learning from peers！让LRM互相「传纸条」的新协作方式大幅提高准确率和效率
当前主流大模型如QwQ - 32B存在“前缀主导陷阱”，推理开头出错会使准确率暴跌。研究者受“同伴互助”启发提出LeaP框架，设计三种路由策略，实验显示小模型能借此超越大模型，开创了多种可能性。
聊一聊数据中心的投资现状
文章结合多份报告和访谈，分析国外大厂对IDC的态度。微软投资放缓，因资源消化、建设复杂等；OpenAI加速基础设施投入；其他巨头虽强调财务纪律，但核心AI投入未放缓，行业仍处增长早期。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
MiniMax 怎么做 Agent：Model-Harness 协同只是第一步，还有 Inference-Harness 协同
本文介绍了 MiniMax 在 Agent 层面的实践。从内部飞书 bot 起步，发展成桌面应用 MiniMax Code，形成训练 - 服务闭环。还阐述 Agent 对模型优化迭代的作用、自研 Agent 优势，指出 AGI 是闭环递归自我改进系统。
Meta开源Muse Glimmer，30B Agent小钢炮跑进你的电脑
Meta发布并以宽松协议开源Agent模型Muse Glimmer。它30B参数，能跑在Mac或PC上，多项Agent基准领先。可完成端到端任务、调用工具及多步推理，接受文本与图像交错输入，用途广泛。
OpenAI 详解规模化低延迟语音 AI 的 WebRTC 架构
OpenAI 介绍为全球规模低延迟语音 AI 调整 WebRTC 架构，将传统媒体终结模型换为中继收发器架构，分离职责，避免复杂逻辑堆砌与转嫁。此架构为实时语音技术布局补充基础设施细节，对架构师有参考价值。
独家丨天机智能完成10亿元B轮及B+轮融资，估值近百亿，高瓴、美团联合领投
AI科技评论独家获悉，具身智能基础设施公司「天机智能」完成10亿B轮及B+轮融资，投后估值近百亿。其深耕底层技术，多项技术突破，产品优势明显。融资将投向三方向，还布局整机产品。
当SFT遇上RL：基于样本学习阶段的动态策略优化机制
在大模型推理能力增强研究中，SFT和RL两种后训练范式难有效融合。研究团队提出DYPO动态策略优化方法，先判断样本学习阶段再匹配优化路径，在多场景实验中表现出色，不过有实验边界。