「小尺寸模型」共找到 8177 篇相关文章
阿联酋K2横空出世，数学、代码样样行，速度全球最快，GPT-4看了都得抖三抖
阿联酋穆罕默德·本·扎耶德人工智能大学与G42公司联合推出开源AI推理系统K2 Think，基于Qwen 2.5 - 32B模型。它靠六项技术性能出众，在多领域测试成绩好，还以小参数量媲美大模型，且全面开源。
千问Qwen旗舰预览版Qwen3.6-Max-Preview发布
千问Qwen发布下一代旗舰模型早期预览版Qwen3.6 - Max - Preview，在权威评测中登顶最佳国产模型。此前开源的Qwen3.6 - 35B - A3B用30亿激活参数匹敌数百亿参数稠密模型，新模型在多方面给出技术演进方向。
模型大一统？1100多个模型殊途同归，指向一个「通用子空间」！
约翰斯・霍普金斯大学研究发现，1100多个不同神经网络，即便训练条件不同，最终权重会收敛到共享低维子空间。此研究为神经网络参数空间“通用性”提供严谨实证，虽成因待探索，但意义深远。
vLLM 正式支持 PaddleOCR-VL
11月4日，vLLM项目宣布正式支持PaddleOCR-VL模型。该模型专注文档解析，参数量仅0.9B。合作降低部署门槛，推理效率更高，官方还给出部署指南和配置建议，流程快速完成可作榜样。
代码检索新王登基！CodeFuse ｜ 开源C2LLM，用“注意力池化”刷新MTEB-Code榜单
蚂蚁集团与上海交通大学推出C2LLM系列模型，基于注意力创新池化机制解决代码表征痛点，登顶MTEB - Code榜单。作为CodeFuse Embedding开源家族成员，将全套回馈社区，为代码大模型研发提供基线。
复读一年，AI 把高考数学成绩从及格线提到 145 分！AI 数学能力发生了什么？
今年媒体让AI做高考数学题，Gemini 2.5 Pro获145分排第一。从去年到今年，AI数学能力指数级增长，这得益于推理模型。推理模型用思维链和强化学习解题，未来高考数学或难区分模型能力。
通义团队提出环境Scaling：自动构建环境，并自主学习和成长，可让30B比肩1T效果
阿里巴巴通义实验室团队论文提出通过程序化、自动化构建模拟环境，让语言模型自主交互学习。基于此训练的AgentScaler模型，数十亿参数就达万亿级模型性能，为轻量级代理智能发展带来新可能。
OpenAI 迈出关键一步：LLM 黑盒不再是盲盒
OpenAI开源新研究成果，提出全新范式，训练权重稀疏的Transformer模型以提取人类可理解的电路。该方法分三步，关键结果显示稀疏模型优势多，但也存在训练成本高、规模有限等局限，还给出两条未来路线。
真实评估！北理发布全球首个「全场景教育」基准，支持4000+情境
北京理工大学高扬老师团队推出EduBench，是全球首个「全场景教育」基准，涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源，评估发现大模型在特殊教育场景有不足，还提出多源知识蒸馏等方法。
谁说Scaling Law到头了？新研究：每一步的微小提升会带来指数级增长
很多人质疑扩大计算规模训练模型的做法，因Scaling Law面临收益递减。但新研究发现，模型单步准确率的微小提升能使完成任务长度指数级增长，还探讨了长程执行能力的衡量及影响因素。