「小模型训练」共找到 8495 篇相关文章
黄仁勋对话 10 位开源 AI 掌门人：未来算力将向后训练倾斜，OpenClaw 开启了现代计算机的新想象｜GTC 2026
在 GTC 2026 上，黄仁勋与 10 位开源 AI 掌门人探讨开放模型。大家认为 AI 正从模型走向系统，未来算力或向后训练倾斜。OpenClaw 让大众感知到 agent，企业落地难点在治理，开放模型价值体现在可控、定制和信任。
具身智能奇点已至！超越π*0.6，极佳视界自我进化VLA大模型拿下世界第一
极佳视界具身大模型 GigaBrain-0.5M*依托世界模型实现自我进化，在多真实任务近 100% 成功，超 π*0.6 成 SOTA。其提出基于世界模型的强化学习范式，用超万小时数据训练，推动通用具身智能发展。
Lumina-mGPT 2.0：自回归模型华丽复兴，媲美顶尖扩散模型
上海人工智能实验室等团队提出Lumina - mGPT 2.0自回归模型，统一多种图像任务。它采用独立训练架构、统一多任务处理框架和高效推理策略，实验表现优异，后续将优化采样时间并扩展至多模态理解。
Reasoning模型可以Self-Train！
当前大模型依赖人类标注数据，成本高且扩展难。论文探讨模型自我纠错、自主进化可能，提出自我奖励训练（SRT），用投票共识代替人类标注。在数学数据集上有效果，但高难度数据集出现问题，作者给出解决办法并开源代码。
剪映于近日上线两款 AI 产品 - 「小云雀」和「剪小映」
剪映近日上线两款 AI 产品「小云雀」和「剪小映」。小云雀是下一代创作 Agent，可零门槛创作视频、图片等，功能多样；剪小映则把「智能成片」细化，通过智能解析提升剪辑效率与创意。
10B超越Gemini-2.5-Pro！阶跃星辰端侧多模态天花板开源
阶跃星辰多模态智能团队开源STEP3-VL-10B多模态模型，仅100亿参数却性能惊人。它采用了独特的架构、训练策略与推理机制，在多任务上表现出色，为小模型发展提供新思路。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型（MoE），它能解决稠密模型扩展瓶颈。阐述其优势，如计算高效、适合并行等，还介绍在transformers库中支持稀疏架构的演进，包括权重加载重构、专家执行后端、专家并行及训练方案。
AGI 路线图第二阶段：游戏即模型训练｜AGIX PM Notes
文章围绕AGI展开，介绍AGI路线图第二阶段“游戏即训练”，指出游戏是训练agent的理想环境；还提及Dreamer系列研究进展。同时涵盖本周市场动态、多家公司AI动态及ETF复制指数的方法、优劣和影响。
阿里云通义点金发布DianJin-R1金融领域推理大模型，32B模型荣膺榜首
阿里云通义点金团队与苏州大学合作推出DianJin-R1金融领域推理大模型，介绍其开源数据集与模型、基于通义点金平台的数据合成，展示了其在性能测试中的优异表现，推动金融科技智能化进程。
为什么BF16的FlashAttention会把训练「炸掉」？清华首次给出机制解释，用极简改动稳住训练
社区里长期存在的FlashAttention+BF16训练GPT - 2时loss突然爆炸的问题，清华团队论文给出机制解释。指出是特定条件下数值偏置被放大所致，还给出极小修改稳定训练，且在多模型和硬件上验证有效。