搜索：合成文档微调

「合成文档微调」共找到 789 篇相关文章

阿里QwenLong-32B：1W+超长Token推理，知识密集型复杂文档高效推理

文章介绍阿里QwenLong - 32B在长文本推理的能力。长文本推理有训练效率低和优化不稳定问题，QWENLONG - L1通过强化学习等解决，还阐述其组件、训练步骤，并给出实战代码及相关链接。

MonkeyOCR采用SRR三元组范式，简化多工具管道，避免整页文档处理低效率。与MinerU、Gemini 2.5 Pro等对比，性能表现优，处理速度达0.84页/秒，但对扫描件效果欠佳，架构含多模型，可通过特定地址测试。

微软亚洲研究院提出全新语音生成模型 VibeVoice，采用 next - token diffusion 机制，能将文字脚本转为最长 90 分钟、最多 4 人对话的高质量播客音频，在多方面有显著优势，未来潜力大。

PandaWiki 是长亭科技开发的 AI 大模型驱动的开源知识库搭建系统，能助力用户快速构建智能化文档系统。它有 AI 创作、问答、搜索等功能，安装简单，适用于多场景，优势明显。

Firecrawl 开源 PDF 智能分类与文本提取库 pdf-inspector，已获超 1.4 万人标星。它能智能分类、感知提取、转 Markdown 及按需路由，性能炸裂，分类快，多项指标领先，还支持多平台。

现有LLM智能体依赖静态流程或微调参数，缺乏灵活性且成本高。论文提出基于记忆的在线强化学习框架AgentFly，不更新LLM权重，在多基准测试表现出色，为构建通用智能体提供新范式。

文章围绕经典信息论在AI实践中的矛盾展开，介绍CMU和NYU论文《From Entropy to Epiplexity》提出的新概念，解释合成数据、数据排序等问题，还探讨合成数据飞轮能否持续，指出epiplexity可定义数据质量。

近年来，基于可验证奖励的强化学习（RLVR）成为提升大语言模型推理能力的重要路径，但许多经RL微调的模型出现‘越训越单一’问题。复旦大学等团队聚焦长期被忽视的KL散度项，提出DPH - RL方法，可缓解多样性坍塌。

微软研究院开源了SkillOpt（7700+ star），把Skill文档当成‘可训练的权重’来优化。它有独特的6阶段流水线、核心验证门控、Protected Regions机制，还有SkillOpt - Sleep预览功能，让Skill文档可系统化训练。

作者认为最好用的知识库应用是Cursor，它有RAG能力，能处理代码和纯文本，可创建修改文档，具备搜索能力且会及时支持先进模型。作者还分享用Cursor配合文档工作的规则及使用示例。