搜索：两阶段训练法

「两阶段训练法」共找到 3094 篇相关文章

Muon作者仅用一篇博客，就被OpenAI看中了

Keller Jordan 2024 年 12 月 8 日发布博客提出用于神经网络隐藏层的优化器 Muon，能提升训练速度。他未发论文，称只信速通。其案例显示 OpenAI 重能力。博客对前沿指标描述或过时，Muon 有诸多实证成果。

微软发布报告显示，中国企业对 AI 应用认知转变，84%企业决策者将重新评估 AI 影响，81%企业考虑增设 AI 岗位。企业落地 AI 有三阶段，智能体以“数字员工”角色进入企业，员工与 AI 关系重要。

OpenAI首席研究官Mark Chen在访谈中爆料Meta抢人大战升级成送汤大战，还谈到OpenAI核心研究团队规模、应对Gemini 3策略等。他认为OpenAI本质是研究公司，有信心在预训练和模型性能上超越对手，还提及OpenAI for Science等计划。

OpenAI投资的法律AI公司Harvey，首个自研模型Harvey Tenet选中国开源模型Kimi K3作底座。因原用闭源模型成本高、有竞争风险。Tenet训练成本低、性能佳，显示出可复制路径。

Claude宣布Prompt缓存诊断功能登陆控制台，可解决缓存失效排查痛点。此前开发者排查效率低，新功能能显示变动位置与token损耗。目前处于beta阶段，介绍了使用方法、支持的失效原因及功能限制等。

Google 发布原生多模态向量模型 Gemini Embedding 2，推动 Omni Embedding 发展。Jina AI 团队分享从多模态大模型中「拆」出音频向量模型的经验，介绍架构、训练数据，对比四种做法，还提及评测、应用场景及结论。

具身智能创企鹿明机器人联席CTO丁琰，分享具身智能数据采集现状、困境及新兴采集方式UMI。他强调具身模型问题多源于数据采集，还介绍鹿明产品FastUMI Pro，及其数据采集、模型训练生态。

大模型进入新阶段，效率成能力一部分。小米MiMo团队12月16日晚发布并开源MiMo - V2 - Flash，负责人罗福莉首亮相。该模型在推理、编程和智能体场景表现出色，在架构、训练方法等有创新。

大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。

6月1日，全球模型榜单前十的Agnes AI无限期免费开放旗下核心全模态模型API，引发开发者热情。两周后周调用量达3.12万亿Token，本周还将升级，周五补齐语音全模态链路，开源社区也围绕其开展诸多项目。