「部署方案」共找到 1446 篇相关文章
开源！强效果，高性能，严隐私？我全都要：OPPO 终端大模型实践
OPPO AI 中心推出开源端侧多模态大模型 AndesVL，含 0.6B - 4B 四档尺寸套件，有通用能力强等优势。它经多阶段训练，OPPO 还构建端侧部署方案，评测显示其在多方面表现优异，未来会继续技术革新。
30分钟轻松掌握Cursor，快速提升开发效率和体验
本文通过在WebX老项目实践，验证Cursor用AI大模型能高效生成符合老旧项目规范的代码框架，显著提升开发效率与体验。还介绍其页面区域、AI聊天区功能，通过实战演示展示提效过程，最后提及可与MCP结合及OpenAI开源模型部署方案。
搜索 ≠ 简单匹配！0代码实现语义级图文互搜
在非结构化数据爆发增长的当下，传统图文检索方式难以满足企业需求。本方案介绍借助阿里云 Milvus 实现高效多模态图文检索，覆盖多场景，有开箱即用、性能强等优势，还给出架构、部署、验证及清理资源的方法。
离谱……面壁让 AI 写了个训练框架，然后它自己训出了最强的 1B 模型：MiniCPM5-1B
面壁发布 1B 参数量级最强端侧文本大模型 MiniCPM5 - 1B，其 Base Model 由 AI 编写的训练框架 ForgeTrain 训出，速度超英伟达 Megatron 10%。该模型性能出色，部署门槛低，数据治理方案对应数据集也已开源。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。
大模型虽好，但恕我直言：在OCR面前，开源小模型更香
作者所在公司项目需处理大量纸质文档，起初考虑云端大模型API调用和开源大模型本地化部署，却因成本高、硬件要求高受阻。后经推荐调研PaddleOCR，其功能全、成本低、易用性强，最终被选为项目核心方案。
WhisperLiveKit：本地同步实时语音转文字
实时语音转文字难题待解，现有方案各有缺陷。WhisperLiveKit项目用前沿同步语音技术解决问题，支持多语言同步翻译、实时说话人识别等，还介绍了安装、部署方式，不过效果受语言和模型等因素影响。
所有人看见了「大晓速度」，但真正值钱的是它背后的这套系统
过去一年大晓机器人在具身智能行业成果显著，首创研发范式和数据采集方案，推出世界模型并实现端侧部署，其行业方案进入真实场景。它从具身第一性原理出发，让信息低成本入模转化为生产力。
OpenAI 狂砸40亿美刀下场抢FDE，软件工程师的尽头原来是驻场啊
当地时间5月11日，OpenAI宣布成立OpenAI部署公司，初始投资超40亿美元，收购Tomoro引入现场部署工程师。这是战略转向，因企业更看重AI落地能力。如今AI竞争转向应用落地，部署工程师成香饽饽。