「预训练语言模型」共找到 8240 篇相关文章
小红书团队开源dots.ocr：文档解析新王者，性能比肩Gemini！
文档解析领域处理多语言复杂文档需高效能力，传统OCR工具存在不足。小红书HiLab开源多语言文档解析模型dots.ocr，基于1.7B参数视觉语言模型，性能达SOTA，单页PDF处理快，公式识别媲美大模型。
The Batch: 907 | 小而高效模型的“制作”方法
Mistral AI发布Ministral 3系列模型权重，结合剪枝与蒸馏技术，用级联蒸馏法构建。该系列参数规模有140亿、80亿和30亿，在部分测试中表现佳，训练成本低于传统方式。
Hugging Face 推出 GOLD：让不同模型家族也能做知识蒸馏
Hugging Face研究团队提出GOLD方法，解决了知识蒸馏中老师和学生模型需用同一套分词器的痛点，让不同模型家族间也能做知识蒸馏。它通过三步解决跨分词器蒸馏，实验效果良好，已集成到TRL库。
阿里一口气发了N款新模型，让我们向源神致敬。
阿里云栖大会发布众多模型，有Qwen3 - Max、Wan2.5等。Qwen3 - Max对标顶尖模型；Wan2.5支持音画同出；Qwen3 - VL是强大视觉语言模型且已开源；Qwen3 - Omni是全模态模型。此外还有多个新模型，构建全场景生态。
无需训练！让VLM同时具备「视觉」与「推理」能力，数学题得分暴涨30%
当前视觉语言模型（VLM）像‘视力好但数学差的学生’，论文指出问题根源是数据不足和能力分布不均。提出‘模型合并’方案，实验显示在数学基准测试中表现亮眼，还通过实验揭示层间能力分布。
腾讯混元开源 4 个小尺寸模型，主打 Agent 和长文
8月4日，腾讯混元开源四款小尺寸模型，参数为0.5B、1.8B、4B、7B，消费级显卡可运行，适用于低功耗场景。模型具备推理快、性价比高特点，亮点是Agent和长文能力，已在腾讯多业务应用。
最新视觉大模型 DINOv3论文精读（逐段解析）
DINOv3是突破性自监督视觉基础模型，其创新围绕数据与模型协同扩展、Gram锚定技术、多阶段训练策略。它解决传统自监督学习难题，在多任务上无需微调达最优，为计算机视觉树立新标杆。
MIT和加州联手打造多智能体大语言模型的金融交易框架TradingAgents
MIT和加州联手打造多智能体大语言模型的金融交易框架TradingAgents，将交易任务分解为专业角色，含分析师、研究员等。介绍了安装、CLI使用、包的实现细节等，还提及项目地址。
物理AI的「原生」时刻：原力灵机发布具身大模型DM0
主流‘预训练 - 后适配’范式有局限，原力灵机联合阶跃星辰提出具身原生 VLA 模型 DM0。它能统一机器人操作与导航，在 RoboChallenge 测试领先，还介绍了架构、训练方法及未来演进方向。
当大模型陷入幻觉循环，如何用工程化给它“立规矩”？
普林斯顿和伯克利研究定义“机器胡扯”，指出大模型胡扯问题。蚂蚁集团旗下蚂蚁密算在2025 WAIC提出高阶程序（HOP）框架，为大模型注入规则，还开源此框架，其在多行业场景应用效果良好。