搜索：小模型超越大模型

「小模型超越大模型」共找到 8258 篇相关文章

Mistral 3开源，一举超越DeepSeek与K2？

近期，Mistral AI开源Mistral 3，含三款小型稠密模型及Mistral Large 3。Benchmark对比中，它领先国内DeepSeek - 3.1、Kimi - K2。Mistral Large 3是强开源权重模型，Ministral 3适合边缘端，成本性能比低。

作者和DefTruth在Cache-DIT上支持了LTX-2模型，记录适配关键点，包括模型侧、框架侧适配。介绍LTX-2特点，如支持T2V/I2V、输出带音频，还说明Cache-DIT加载区分T2V/I2V方法及cache侧修改内容，最后给出使用示例。

华为诺亚方舟实验室等团队提出 ScaleNet 方法，创新性地用少量额外参数量将模型深度扩展一倍。结合层级权重共享和轻量级适配器技术，在视觉和语言任务上验证了有效性，提升了模型性能。

传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。

字节发布全新复杂数学解决模型Seed-Prover，全面超越谷歌AlphaGeometry2，在MiniF2F数据集达100%正确率。它采用引理式证明，集成几何推理引擎Seed-Geometry，还展现了卓越泛化能力。

全球电商、云计算巨头亚马逊宣布推出新AI基础大模型Deep Fleet，部署机器人超100万。该模型可提升机器人车队出行效率，还能协调机器人移动，带来交付快、成本低等好处。

外媒曝出OpenAI打响挖人反击战，从特斯拉、xAI、Meta挖来四位技术大牛，将入职Scaling团队。此前奥特曼称自扎克伯格从OpenAI挖人后，就再没和小扎说过话，这场混战还未停歇。

本次讲座聚焦迈向用于演绎推理的诚实语言模型。当前语言模型难诚实推理，输入不足会产生无根据答案。为此制定多步骤任务，提出强化学习方法ACNCHOR，稳定学习过程、提高推理性能。

Sapient Intelligence研究者受大脑机制启发提出分层推理模型HRM，它是全新循环架构，仅2700万参数、1000个训练样本，就在复杂推理任务上表现卓越，还引入近似梯度等方法，有推动通用计算变革潜力。

Jina AI 模型迭代加速，Jina Embeddings 到五代目，Reranker v3获最佳论文。4月18日 Elastic AI Tech Day 将举办，Jina 团队将做系统公开技术分享，涵盖搜索AI等多方面内容。