「本地部署」共找到 944 篇相关文章

新闻资讯7

Reddit一张神图疯传!2年后,你的笔记本就能跑Fable 5

r/LocalLLaMA社区一张图刷屏AI圈,显示Fable 5级AI预计2年后可在笔记本本地运行。从历史模型看,前沿能力从云端到本地约24个月。这意味着AI正从云端垄断走向桌面民主化。

新智元
开源动态7

SGLang × RoleBasedGroup(RBG):打通大模型推理PD分离架构规模化落地的“最后一公里”

PD分离架构对大模型推理部署意义重大,SGLang支持该架构且性能佳。但从测试到生产落地难,存在部署、资源、可靠性等问题。SGLang开源RBG项目,结合二者为PD分离架构生产化落地提供方案。

InfoQ
产品应用7

大厂代码库几百万行,Claude Code怎么跑起来的?Anthropic首次公开全套打法

Anthropic发布文章总结Claude Code在企业规模部署的最佳实践。Claude Code导航类似软件工程师,与RAG驱动工具不同。其harness由多扩展点组成,在部署中有三种常见配置模式,还给出应用建议。

AI寒武纪
推荐文章7

Reorx:OpenClaw 正在重塑我的数字生活,以及为什么我退订了所有 SaaS

知名技术博主 Reorx 记录用 OpenClaw 将工作流从“云端租赁”迁回“本地私有”的过程。AI 正从云端服务变为本地基础设施,他退订 SaaS 用 OpenClaw 重塑数字生活,虽有不足但能拿回数据控制权。

AI科技大本营
新闻资讯8

刚刚,OpenAI官宣自研造芯,联手博通开发10吉瓦规模的AI加速器

今天凌晨,OpenAI宣布与博通战略合作,共同部署其设计的10吉瓦规模AI加速器,预计2026下半年起部署机架,2029年底完成。此次合作将减少其对英伟达GPU依赖,采用多元化算力策略。

机器之心
推荐文章9

在生产环境中保护 MCP:超越网关的纵深防御

针对生产环境MCP部署中安全规范滞后于部署速度的问题,本文提出MCP安全不能仅依赖网关,需划分四个独立控制层构建纵深防御体系,给出了可落地的控制方案、代码示例和分阶段实施计划。

InfoQ
产品应用7

Raycast + MCP = AI Mac

Raycast添加AI插件可实现跨应用调度,现支持MCP。它解决了MCP用户部署、配置难的问题,提供接近自动部署的方法。还介绍了MCP在Raycast中的安装与使用,以及作者常用的支持MCP的客户端。

newtype AI
新闻资讯7

Groupe SNCF 使用 Talos OS 和 Kubernetes 实现基础设施的现代化

法国国家铁路集团(Groupe SNCF)从传统 VM 的 Kubernetes 部署迁移到基于 Talos OS 和 OpenStack 的云原生平台,解决运维挑战。虽面临组织和技术难题,但紧密合作加强了平台,未来将扩展平台、迁移关键应用。

InfoQ
新闻资讯8

陈大年复出,入局大模型

国产大模型领域黑马StartLux-V1.0-27B-Preview,参数量仅27B,在信通院MCP测试中排综合第二,仅次于1.6万亿参数量的DeepSeek-V4-Pro。其创始人陈大年押注本地模型,公司专注该领域商业化。

量子位
开源动态8

GitHub Trending 榜一的开源 Cowork 来了!4天4.5K星,首个多智能体工作流应用!

开源项目Eigent冲上GitHub Trending榜首,4天获4.5K+ Star。它是全球首个多智能体工作流桌面应用,完全开源、支持本地模型,有多种智能体工作流,具备本地优先、并行工作流等特性,提供三种使用模式。

开源星探