「推理服务基础设施」共找到 2938 篇相关文章
告别Sora！从巅峰到黯然离场不到一年半，团队将转向物理AI
2026年3月24日，OpenAI宣布关闭视频生成应用Sora。Sora曾惊艳全球，但因合规麻烦、行业阻击、算力成本高、商业回报低等问题走向关停。团队将转向物理AI，聚焦世界模拟研究。
1.9K Star 谷歌开源MCP Toolbox,支持langchain、llamaindex、各类数据库
谷歌开源MCP Toolbox获1.9K Star，支持langchain、llamaindex和各类数据库。它位于应用编排框架间，能简化数据库配置等，可用自然语言交互，还给出python调用方法。
LLM Inference 和 LLM Serving 视角下的 MCP
文章先解释 LLM Inference 和 LLM Serving 概念，再从两者视角分析 MCP，指出 MCP 是两者复合体，难归一边。最后预测 MCP 未来发展，要明确功能划分，前后端独立演进。
爆火AI编程Windsurf突遭Claude全面断供，开发者大量退订！直接打脸OpenAI
AI编程工具Windsurf突遭Anthropic切断Claude 3.x系列模型API访问权限，CEO称仅获五天通知。用户大量退订，Windsurf官方激烈回应，采取应对措施，AI编程领域大战正酣。
2w+ star，和claude对着干，牛皮！
Anthropic 给 Claude 生成文字添加水印，方式独特且难去除。`watermarks-remover` 项目应运而生，针对不同水印机制分层处理，兼容多格式文件，有多种安装使用方式，还明确告知能力边界。
夯，开源 LiteParse，没有对手的 PDF 解析工具，知道的太晚了！
LlamaIndex团队开源独立工具LiteParse，用Rust打造，可本地运行、零成本、高精度解析PDF。它能提取文本及精确位置，有多种输出格式，支持多格式输入，还介绍了安装、使用、OCR配置等内容及应用场景。
在Claude桌面版里用任意模型
现在Claude桌面版可使用任意模型，这是4月官方更新添加开发者模式带来的功能。文中介绍了操作方法，还称Claude桌面版是世界最好的AI客户端，覆盖多种使用场景，推荐大家使用。
5000 star，Harness门槛被OpenHarness打穿了
分享开源Python实现版本OpenHarness，它易上手，能助研究者和开发者理解生产级AI Agent原理、构建专用智能体。介绍其核心功能、架构及核心循环逻辑，还给出了Github链接。
阿里AI重组：集团CEO吴泳铭亲征！「Token为王」全面决战ASI
阿里宣布成立全新的Alibaba Token Hub（ATH）事业群，由CEO吴泳铭挂帅，收拢通义千问等团队。这标志阿里AI战略转向，告别技术至上，聚焦B端商业变现与算力应用，围绕Token构建工业化流水线。
PaperDebugger：开源的学术版Cursor
PaperDebugger是AI驱动的学术写作助手，能调试和改进论文，提供智能建议。它用基于MCP的编排引擎，模拟学术流程，有聊天、插入、评论等功能，只读取项目，保障隐私。