「动作预训练」共找到 2406 篇相关文章
“AI大神”李沐终于开源新模型，爆肝6个月，上线迅速斩获3.6k stars！
7月23日，“AI大神”李沐开源音频基础模型Higgs Audio v2，构建于Llama - 3.2 - 3B之上，预训练数据丰富。该模型在多个测评中成绩领先，有多种能力，李沐介绍其技术及训练方法。
一张俯视图，竟然能生成完整3D小镇？
获取高质量3D场景成本高、耗时长，现有3D生成模型扩展到完整场景生成时问题多。加州大学提出无需训练的3DTown框架，能从单张俯视图合成真实连贯3D场景，虽有挑战但表现优于基线方法。
LLM加RL遭质疑：故意用错奖励，数学基准也显著提升，AI圈炸了
华盛顿大学等机构论文引爆AI界，其发现用虚假奖励训练Qwen2.5-Math-7B模型，也能提高MATH - 500成绩。虚假奖励对Qwen模型有效，但在其他模型上有限，凸显RLVR有效性与模型能力有关。
奖励模型也能Scaling！上海AI Lab突破强化学习短板，提出策略判别学习新范式
上海人工智能实验室提出策略判别学习（POLAR）新范式，解决奖励模型设计与训练瓶颈。POLAR可灵活适配多样需求，弥补传统奖励模型短板，契合强化微调框架，实验证明其性能和泛化性优越。
刚刚，国产AI自己造了AI，全球首例！
面壁智能实现全球首例国产AI造AI，用AI编写预训练框架ForgeTrain，性能超英伟达Megatron，还训练出MiniCPM5 - 1B模型。该模型可作桌宠，小尺寸高智能，还能自定义人格，提供工具链。
Kimi K2技术报告正式发布：“保姆级”深度解析，一文读懂万亿参数智能体的所有秘密
Kimi K2技术报告发布，Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进，有预训练、架构设计等多方面创新，为智能体领域提供可行路径。
社区供稿丨以小博大！Nanbeige4-3B重磅开源：硬刚Qwen3，挑战小模型能力新高度
近年来大语言模型发展陷入‘参数军备竞赛’，成本高昂。Boss直聘南北阁实验室发布Nanbeige4 - 3B，仅30亿参数，在预训练和后训练阶段采用多种创新技术，在多方面媲美甚至超越大模型。
缺数据也能拿SOTA？清华&上海AI Lab破解机器人RL两大瓶颈
现有机器人视觉 - 语言 - 动作（VLA）模型训练范式存在数据采集成本高、泛化能力不足等问题。清华和上海AI Lab团队提出SimpleVLA-RL，解决了VLA模型训练的核心瓶颈，在多基准测试中实现SoTA性能。
一年从3B卷到0.xB：MonkeyOCRv2用0.7B拿下17语种文档解析开源第一
文档OCR正迈入小模型时代，MonkeyOCRv2以0.7B、0.6B参数在MDPBench上超越3B模型。它重新分配系统职责，采用互补预训练目标，还开源训练数据，且迁移到多任务表现良好。
字节Seed团队发布Seed1.5-VL，用仅20B活跃参数在60个主流测试中狂揽38项第一！
字节Seed团队发布Seed1.5-VL，仅200亿活跃参数就在60个主流测试中获38项第一。介绍其架构、预训练、后训练等情况，评估表现出色，虽处理复杂场景有局限，但仍在多模态任务取得显著进展。