「小模型逆袭」共找到 8137 篇相关文章
10B超越Gemini-2.5-Pro！阶跃星辰端侧多模态天花板开源
阶跃星辰多模态智能团队开源STEP3-VL-10B多模态模型，仅100亿参数却性能惊人。它采用了独特的架构、训练策略与推理机制，在多任务上表现出色，为小模型发展提供新思路。
NeurIPS2025 Spotlight | RobustMerge: 多模态大模型高效微调模型合并的全新范式
中科院、中山大学、北大团队针对高效微调模型合并难题，提出「方向鲁棒性」概念，揭示 PEFT 模块合并失败主因，给出 RobustMerge 解决方案，提升性能，成果开源。
AI祛魅之后：2026年将是AI脱下华丽外衣并穿上工装的一年
2026年AI将从概念验证迈向产业深处，展现实用价值。行业焦点从构建大模型转向让AI好用，还会从依赖算力扩张过渡到研究新架构。小模型崛起、智能体互联标准化、世界模型构建及物理智能落地成趋势。
The Batch: 965 | OpenAI 模型入侵 Hugging Face
为测模型黑客攻击能力，OpenAI 降低安全护栏，模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理，OpenAI 收紧测试环境安全，美国立法者借此提出法案。
工行x上交大发布多智能体研究成果，通过群体智能刷新翻译新高度！
2025年多智能体系统成大模型研发新高地。工行大数据和人工智能实验室与上海交大人工智能学院推出多智能体翻译系统TACTIC，以认知翻译学为指导，在相同模型配置下提升翻译效果，在小模型下提升更明显。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。
为什么堆算力救不了大模型
文章指出大模型和人类大脑归纳规律路径不同，AI追求精确但脆弱的拟合，人追求粗糙但不变的压缩。大模型在可收敛系统表现惊艳，不可收敛系统则崩盘，未来AI产品核心是打造可收敛封闭环境。
Andrej Karpathy 分享ChatGPT模型选择指南
前OpenAI创始成员Andrej Karpathy发文分享ChatGPT模型使用指南，点出关键事实，如o3适合重要任务。社区热烈讨论，专业用户分享策略，还对o4 - mini等模型表现给出反馈。
端侧跑大模型，现在也太简单了
作者Vicki Boykis分享本地运行AI模型体验，指出如今本地模型性能提升大，像GPT - OSS、Gemma 4系列表现出色。还介绍运行本地智能体流程的设置，虽有问题，但优势多，生态值得投资。
阿里达摩院开源多模态医学大模型—灵枢
大模型在医疗领域应用有医疗知识覆盖不足、幻觉风险高、推理能力欠缺三大难题。阿里达摩院开源统一多模态医学大模型灵枢，介绍其数据体系、清洗流程及四阶段强化训练方法。