「本地部署」共找到 920 篇相关文章
大模型虽好，但恕我直言：在OCR面前，开源小模型更香
作者所在公司项目需处理大量纸质文档，起初考虑云端大模型API调用和开源大模型本地化部署，却因成本高、硬件要求高受阻。后经推荐调研PaddleOCR，其功能全、成本低、易用性强，最终被选为项目核心方案。
阿里开源电影级AI视频模型！MoE架构，5B版本消费级显卡可跑
阿里开源新一代视频生成模型通义万相Wan2.2，含文生视频等功能。它率先将MoE架构用于视频生成扩散模型，5B版本可在消费级显卡部署。对比前代和Sora表现更优，还推出电影级美学控制系统。
云计算一哥，刚刚重新定义了AI Agent的玩法
亚马逊云科技在纽约峰会上重新定义AI Agent部署方式，发布Amazon Bedrock AgentCore工具包，还推出Marketplace中的AI Agents和工具、Amazon Nova定制化功能等，在数据层和编程应用也有新动作，展现其AI Agent战略布局。
面壁MiniCPM4端侧模型发布：长文本推理 5 倍提速，0.5B 模型拿下新SOTA
2025智源大会，面壁发布MiniCPM4.0端侧模型，含8B稀疏闪电版与0.5B款。其采用InfLLM架构，实现长文本推理5倍提速、最高220倍加速，还在性能、部署等方面优化，适配多芯片与框架。
一个记忆库，N 个 AI 助手用！mem0 OpenMemory MCP 打通 Cursor/Claude/Windsurf ~
OpenMemory MCP是本地运行的共享记忆系统，基于MCP协议，让多个AI工具共享上下文记忆。它通吃主流MCP客户端，提供标准API，数据私密，有可视化面板且一键安装。官方列举应用场景，虽扩展性待考，但方向值得关注。
从1000通到1.5万通，百融智能的「硅基客服」真正开始「上岗」
今年7月，一家头部物流企业和大型综合类头部券商上线百融智能的AI客服，业务量和部署规模增长显著。百融智能正战略升级，以新一代AICC智能联络技术向多行业拓展，其创始人张韶峰分享了相关思考与技术优势。
新一代Mac mini搭载M6开售！M5 Ultra也来了
苹果更新Mac mini和Mac Studio，带来M6、M5 Ultra芯片。M6是苹果首颗2nm制程M系列芯片，M5 Ultra为四晶粒封装SoC。苹果用四个档位搭建桌面Mac本地AI算力梯队，8月27日预购，9月22日发售。
Nanbeige4.2-3B：探索通用Agent小模型
在模型越做越大的当下，推理成本成了影响Agent大规模使用的关键因素。南北阁实验室推出Nanbeige4.2 - 3B，在架构、数据构造和训练pipeline层面做了系统工作，评测表现良好，还探索本地个人助手等应用。
一站式 AI 短剧创作神器
Toonflow 是 HBAI-Ltd 开发并开源的一站式 AI 短剧创作工具，可将小说或剧本快速转化为动画短剧，集成多种功能，0 门槛全流程 AI 化，提升创作效率 10 倍+，支持多系统，兼顾易用性、扩展性和本地化部署需求。
OpenAI携手五巨头开源革命性超算协议：一举解决超大集群LLM训练不稳定和网络性能难题
OpenAI联合英伟达等五巨头推出超算开放网络协议MRC并正式向行业开放。MRC目标是性能可预期，有多平面网络、自适应包喷射、SRv6源路由三大核心机制，已在OpenAI多台超级计算机上部署。