「预训练语言模型」共找到 8250 篇相关文章
抖音&LV-NUS开源多模态新模，以小博大刷新SOTA，8B推理比肩GPT-4o
抖音SAIL团队与LV - NUS Lab联合推出多模态大模型SAIL - VL2，以中小参数规模在106个数据集实现性能突破。该模型从架构、数据、训练三方面创新，后经全链路优化，在多数据集验证中表现卓越。
以小博大，仅1.7B媲美gemini2.5-pro，达到SOTA文档解析性能
dots.ocr是多语言开源文档解析器，把布局检测和内容识别统一在视觉语言模型中，虽LLM仅1.7B参数，却达SOTA性能。介绍了其预训练三阶段及SFT阶段关键策略。
The Batch：927｜极速扩散学习
研究表明扩散图像生成器学习重建预训练编码器嵌入可加快训练，Apple团队提出的FAE，通过缩小嵌入再重建解决了因嵌入尺寸大导致的训练受阻问题，性能与先进模型相当且训练更快。
一份最新具身智能中的世界模型&安全综述
本文分享2篇具身智能世界模型和安全挑战的综述。2025年10月的综述用三维坐标轴整合文献。还介绍世界模型分类、性能表现，围绕自动驾驶与机器人领域分析安全隐患并实证评估。
Anthropic新模型偷「吃瓜」！最强Fable 5爆冷
Anthropic提前曝光两个新模型claude-mashmallow-eap和claude-melon-eap，早期实测Marshmallow更佳。此前上线的最强Fable 5爆冷，企业调用少，营收低，其弟Opus 5反而胜出，开源模型也在抢占份额。
杨植麟带 Kimi 团队深夜回应：关于 K2 Thinking 爆火后的一切争议
上周，月之暗面发布并开源 Kimi K2 Thinking，主打“模型即 Agent”，引发广泛关注。今日凌晨，杨植麟等团队成员在 Reddit 开展 AMA 活动，回应 K2 Thinking 相关问题，如 KDA 机制应用、训练成本、速度与准确性平衡等。
英伟达拿出推理版VLA：Alpamayo-R1让自动驾驶AI更会动脑子
当今自动驾驶模型虽强大，但在‘长尾场景’易翻车。英伟达推出的Alpamayo - R1是带推理能力的视觉 - 语言 - 行动模型，有核心创新，实验中性能显著提升，训练分三阶段，让自动驾驶迈向可解释。
刚刚，Meta 发布新模型，股价大涨 10%
Meta发布新模型Muse Spark，是原生多模态推理模型，支持多种功能。其沉思模式处理复杂问题表现佳，还有新购物模式。虽评论区有质疑，但Meta股价大涨。模型未开放API等，实际实力待察。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
大模型IMO25数学竞赛成绩公布了
大模型挑战IMO 2025成绩出炉，Gemini 2.5 Pro以超30%总成绩断崖式领先，超出第二名89%。测试由MathArena组织，采用统一环境和双人匿名评估。还介绍了测试模型、题目及模型表现，人类版结果预计本周六发布。