「端侧部署」共找到 800 篇相关文章
在生产环境中保护 MCP：超越网关的纵深防御
针对生产环境MCP部署中安全规范滞后于部署速度的问题，本文提出MCP安全不能仅依赖网关，需划分四个独立控制层构建纵深防御体系，给出了可落地的控制方案、代码示例和分阶段实施计划。
Raycast + MCP = AI Mac
Raycast添加AI插件可实现跨应用调度，现支持MCP。它解决了MCP用户部署、配置难的问题，提供接近自动部署的方法。还介绍了MCP在Raycast中的安装与使用，以及作者常用的支持MCP的客户端。
Groupe SNCF 使用 Talos OS 和 Kubernetes 实现基础设施的现代化
法国国家铁路集团（Groupe SNCF）从传统 VM 的 Kubernetes 部署迁移到基于 Talos OS 和 OpenStack 的云原生平台，解决运维挑战。虽面临组织和技术难题，但紧密合作加强了平台，未来将扩展平台、迁移关键应用。
WhisperLiveKit：本地同步实时语音转文字
实时语音转文字难题待解，现有方案各有缺陷。WhisperLiveKit项目用前沿同步语音技术解决问题，支持多语言同步翻译、实时说话人识别等，还介绍了安装、部署方式，不过效果受语言和模型等因素影响。
开源的 V0/Lovable 替代方案Libra AI
Libra AI是面向生产环境的AI原生开发平台，可通过自然语言交互管理Web应用全生命周期。它功能丰富，如AI智能编码、集成开发体验等。其开源有技术自主、架构灵活等好处，还介绍了技术架构、上手方式与部署方案。
国产版Ollama来了，Clawdbot终于不只属于Mac和英伟达
2月2日清昴智能发布玄武CLI开源版本，可理解为“国产版Ollama”。它能抹平硬件架构差异，让国产卡大模型部署零门槛。解决了国产算力在软件生态层面的痛点，提供统一稳定的部署与调用体验。
我花了5天时间，对公司进行了一场AI化改造。
本文是30人规模AI MCN公司创始人分享，讲述自己花5天时间基于飞书基建搭建原生AI企业中台，解决公司内部AI应用部署、权限管控、协同分享痛点，重构公司协同流程的实践过程。
告别“对讲机”时代：面壁智能给 AI 装上了“神经末梢”
2026 年初，OpenClaw 等开源项目让 Agent 概念爆火，但存在延迟、隐私等问题。面壁智能发布 9B 小模型 MiniCPM - o 4.5 和硬件开发板松果派，解决 AI 本地运行痛点，推动其从云端到端侧进化。
实测Perplexity Pro平替模型，免费开源仅4B
一款仅4B大小的开源模型Jan-v1，声称能平替Perplexity Pro，且完全免费、支持本地部署。实测发现，它在检索增强生成、上下文深度分析等能力上表现不错，入门级显卡即可带动本地部署。
Unsloth发布Qwen3-VL本地运行和微调指南，修复隐藏bug
Unsloth团队修复Qwen3-VL系列模型聊天模板语法问题，重新上传GGUF量化文件，使模型可本地稳定运行。介绍了不同规格模型硬件需求、表现，给出部署步骤、参数差异，还展示多模态能力测试，提供多种格式模型及微调工具。