开源动态7

最强开源OCR模型PaddleOCR-VL本地部署成功！

开源星探2025-11-06

AI 摘要

作者分享PaddleOCR-VL本地部署教程，虽过程曲折，但最终成功。该模型识别快，占6G显存，支持OpenAI API格式，能轻松接入多平台，如Fastgpt，使用方便。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

1G内存就能跑的本地决策AI

Jev爆火一周后，开发者推出适配Apple MLX框架的Laya-MLX，是开源决策模型Laya的原生本地版，最低仅需不到700M内存即可在Mac运行，速度快准确率高，适合高频短决策任务。

本文介绍中国电信AI推出的全栈国产化轻量级代码智能体大模型Xing4.0-29B-A4B，该模型适配国产算力，4bit量化后单张RTX 3090即可本地部署，瞄准企业数据不出域的AI办公需求，现已开源上线。

Qwen 3.8 27B是性能好、体积小的开源模型，个人也能本地部署。本地跑开源大模型，重点看容量和带宽两个指标，还介绍了Mac、RTX 5090、RTX PRO 6000三种部署方案及优缺点。

昨天，Meta发布约30B参数的多模态Agent模型Muse Glimmer，支持128K级上下文。它采用Apache 2.0许可证开放，有量化版本等。其技术设计围绕显存、上下文管理等问题展开，在多方面做了取舍。