「小模型训练」共找到 8495 篇相关文章
训练世界模型，开始从人类的肌肉和脑子里偷师了
具身智能数据竞争进入新阶段，第一视角视频虽缓解数据量问题，但未记录人行动的原因及大脑身体实时修正。FaceMind提出Ego - NeuroLoop数据范式，配套NeuroMatrix和NeuroBooster，将训练数据从“行为库”推向“闭环库”。
OpenAI没做到，DeepSeek搞定了！开源引爆推理革命
文章围绕大语言模型推理能力展开，介绍了推理模型概念，回顾RLHF训练流程，对比OpenAI的PPO和DeepSeek的GRPO，还阐述了GRPO开源升级版DAPO的关键技术点及训练中模型的新能力。
何恺明首个语言模型：105M参数，不走GPT自回归老路
何恺明团队推出全新连续扩散语言模型ELF，不走GPT自回归老路。它将生成过程留在连续embedding空间，最后离散化变回token。ELF用较少参数、训练token和采样步数，跑赢主流扩散语言模型。
硅谷今日最热具身模型！不用后训练，看一遍就学会
北美具身初创Skild AI发布全新机器人基础模型S1，主打上下文学习，能看示范视频完成复杂操作。在未见过任务上成功率达66%，远高于传统方法。其发展或让开发机器人技能像给ChatGPT写Prompt。
用 1/1000 的参数打穿大模型：我为什么强烈推荐 PaddleOCR
PaddleOCR是百度开源的OCR工具，模型参数仅0.07B，却能在复杂场景媲美大模型精度。其新一代PP - OCRv5全面升级，在文本检测等方面表现出色，还稳定增长且在海外受关注。
聚焦手机AI“超级入口”，中兴Nebula小模型让手机秒变“小秘”？
移动智能时代，手机AI“超级入口”成竞争焦点。美团率先推出AI Agent，中兴通讯自研Nebula-GUI模型表现亮眼，在测评中获佳绩，已在多款手机商用，还开发数据制备系统，经监督微调、双层强化学习提升性能。
最小模型仅 25MB，老设备无 GPU 也能流畅跑！
开源项目`KittenTTS`是文本转语音模型系列，核心特点是“小身材，大能量”。最小模型约1500万参数，体积25MB以内，无需GPU，靠CPU就能实现高质量语音合成，适合多种设备和场景。
都在卷「让大模型多循环几遍」，这个7B模型LoopCoder v2说：多循环 1 次就够了
一项新研究表明，7B小模型LoopCoder v2在正常计算外多循环一次，就能在SWE - bench Verified基准上大幅提分。继续增加循环次数，性能反而下降。研究还算了‘收益 - 成本’账，给出选择循环次数的诊断方法。
告别「利用率崩溃」：GIPO开启大模型强化学习高效训练新方法 | ICML 2026
树根科技与三一集团团队联合提出 GIPO 算法，在机器人操控及大语言/视觉动作模型强化学习训练中，缓解了策略滞后痛点，改善了 PPO 硬截断引发的‘利用率崩溃’问题。介绍了 GIPO 算法原理、优势及实验结果。
最新 AGI 暴论：强化学习的「GPT-3 时刻」实现，还需要 1 万年？
国外AI初创公司Mechanize三位创始人联合撰文称，RL或迎“GPT - 3时刻”，但需数千至上万年“模型处理任务所用时间”训练。还提出“复制训练”新范式，能磨炼模型能力，补足短板。