搜索：三阶段训练策略

「三阶段训练策略」共找到 3215 篇相关文章

10行代码，AIME24/25提高15%！揭秘大模型强化学习熵机制

来自多机构的研究者揭示大模型强化学习中熵变化机制。发现策略熵在训练中急剧下降致性能停滞，提出 Clip - Cov 与 KL - Cov 两种正则化技术调控高协方差标记，遏制熵塌缩，在部分数据集上性能提升显著。

文章指出在大模型时代，智能体能否理解上下文是关键。介绍了上下文工程的魔力、从提示词到上下文工程的演进，分析了上下文工程不等同于上下文的原因及常见失败类型，还给出编排设计和常见策略，最后提及用RAGFlow构建私有知识问答应用。

至知创新研究院UBio团队发布的UBio-MolFM v1.5，是可进行分子动力学模拟的机器学习原子间势函数。它在精度和规模上有提升，实测中表现优于经典力场，架构、数据和训练都有创新，误差降45%，速度提8倍，现已开源。

快手与清华团队用1.5B参数小模型在推理基准上超越同量级SOTA。其Archer方法通过精细化Token管理，对知识型和推理型Token差异化训练，让知识和推理同步更新且互不干扰，在数学和代码任务表现出色。

美国芯片出口管制冲击英伟达，其在中国市场损失大、份额降。黄仁勋计划7月推‘阉割芯片’B20、B40/B30抢市场。不同客户有选择倾向，同时国产GPU有机会也面临难题，企业还尝试海外训练模型。

xAI 解散、大批成员离职后，马斯克透露 Grok 最新模型进展，参数量 1.5T 的 Grok V9 - Medium 已完成训练，预计两到三周内发布。他还宣布现有 0.5T 模型年底前开源，此外首款编码智能体 Grok Build 也备受关注。

本文作者复盘用AutoResearch训练YOLOv8模型全过程。先介绍其要素框架，选YOLOv8 + NEU - DET做实验，经V1轻量验证后升级到V2完整闭环，64轮实验后mAP从0.729提至0.773，还总结工程结论并给出迁移场景建议。

英伟达推出新一代开源模型Nemotron 3 Super，专为大规模AI智能体打造，有1200亿参数，推理快、吞吐量高，性能直逼Claude Opus 4.6等。它解决了Agent应用的难题，还开源了相关数据和训练方法。此外，英伟达还在打造NemoClaw开源AI智能体平台。

马斯克发帖透露xAI的Colossus 2超算训练模型情况，还回应网友时“手滑”泄露Claude的Sonnet 1T、Opus 5T参数。此外，文章梳理网友对Claude各版本参数的推测，也提到Anthropic未发布模型Claude Mythos。

近年来，“参数越大，能力越强”成行业共识，但带来成本高和资源集中问题。微博AI团队开发的VibeThinker - 1.5B用1.5亿参数和低训练成本，在多项测试中超越头部大模型，还提出SSP框架和MGPO算法。