「小模型逆袭」共找到 8111 篇相关文章
新SoTA方法RM-R1：让reward model对评分说出原因！超越GPT4o
过去模型‘黑箱打分’不透明、不灵活。论文提出ReasRM，经两阶段训练，让奖励模型像人类先思考再打分。它能分任务类型、动态奖励，实验中碾压GPT - 4，小模型逆袭，团队已开源6个模型。
击败 GPT-5！理想汽车开源 RubricHub：大模型开放生成从此有了专业裁判
理想汽车基座模型团队联合高校发布RubricHub数据集，解决开放式任务评价难题。该数据集可将主观评价转化为量化标准，经其训练的Qwen3 - 14B小模型在医疗基准测试中超越GPT - 5。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
小模型代替顶级闭源：微软用4B小助理，砍掉30% Token消耗
微软研究团队提出实用方案，用4B参数的微型模型Terminus - 4B替换昂贵顶配大模型接管终端执行任务，采用SFT和RL策略打造子智能体，经测试效果良好，节省Token消耗。
Agent也能蒸馏了！性能超好
大模型运行成本高，普通用户用不起。传统小模型模仿大模型解题步骤易出错。论文提出Agent蒸馏，让小模型学会用检索和代码工具，还加首思前缀与自我纠错“外挂”，使小模型性能直逼大模型。
大模型虽好，但恕我直言：在OCR面前，开源小模型更香
作者所在公司项目需处理大量纸质文档，起初考虑云端大模型API调用和开源大模型本地化部署，却因成本高、硬件要求高受阻。后经推荐调研PaddleOCR，其功能全、成本低、易用性强，最终被选为项目核心方案。
攻克大模型训推差异难题，蚂蚁开源新一代推理模型Ring-flash-2.0
9月19日，蚂蚁百灵大模型团队开源新一代推理模型Ring-flash-2.0，独创棒冰算法解决训推差异难题，实现稳定训练。该模型仅激活6.1B参数就能打平40B Dense模型性能，降低推理成本。
jina-embeddings-v5-omni 发布！全模态向量小模型
Jina AI发布`jina-embeddings-v5-omni`，将`v5-text`能力拓展到多模态。`v5-omni-small`参数量小却追平LCO - 7B，在多模态评测中表现优异，但视频是短板。其采用‘冻结 + 投影’架构，训练快、省显存。
The Batch: 929 | Qwen3.5 超越更大模型，领跑视觉基准测试
阿里巴巴发布 Qwen3.5 系列，含 8 个开源权重的视觉 - 语言模型。其小模型表现超大体量 OpenAI 开源权重模型，在视觉任务中整体出色，部分在语言任务也有竞争力。虽团队有人员离职，但阿里承诺加大 AI 投入。
现在，最会赚钱的AI是Qwen3！全球六大模型厮杀，Top 2来自中国
大模型「炒股」大赛中，阿里Qwen3 Max逆袭DeepSeek夺冠，成「最会赚钱」模型，GPT - 5成「最会赔钱」AI。比赛由Nof1实验室打造，Qwen3 Max成绩体现国产大模型实力。