开源动态7

vLLM正式支持PaddleOCR-VL模型

AI工程化2025-11-04

AI 摘要

vLLM宣布支持PaddleOCR-VL模型，该模型用于文档解析，参数量小。合作降低了部署门槛，推理效率高，官方给出部署指南，流程快速完成，为其他模型集成提供了榜样。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

百度HPD - Parsing：文档解析速度暴涨3倍

百度PaddleOCR推出HPD - Parsing小模型，文档解析速度大幅提升，是上一代最快模型的1.62倍、自身原解码方式的3.06倍。它采用层级并行解码架构，有两层并行设计，效果出色且兼容性好，还分享了优质训练方法和优化思路。

百度开源的Unlimited - OCR项目目标是处理图片、长文档等资料，将其转化为Markdown等结构化结果。它提供多入口，解决传统OCR处理长文档的问题，有多种应用方向，但也有边界。

南洋理工大学等团队推出NEO - ov模型，挑战传统「视觉编码器 + 大模型」范式，直接从原始像素学语言。它在多任务表现出色，尤其空间智能突出，但在OCR等方面有短板，展现原生多模态建模潜力。

作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。