「预训练模型」共找到 8112 篇相关文章
Kimi K2官方技术报告出炉：采用384个专家，训练不靠刷题靠“用自己的话再讲一遍”
Kimi K2官方技术报告公开称霸全球开源模型的秘籍，介绍其训练过程及“秘密配方”，包括MuonClip优化器、大规模Agentic Tool Use数据合成等技术亮点，还提及后阿里通义Qwen3更新击败Kimi K2。
沉迷贪吃蛇，7B小模型竟变身「数学天才」！几何推理碾压GPT-4o
NVIDIA等团队提出视觉游戏学习ViGaL范式，让7B多模态模型玩贪吃蛇等游戏，使其在数学、几何等任务击败GPT - 4o。游戏培养通用认知与推理能力，不同游戏提升不同推理能力，多游戏训练效果更佳。
正交化之外是什么？微软等提出ARO优化器：训练提速1/3，揭示矩阵优化新「蓝海」
微软研究院联合多校发布论文，提出新优化器 ARO。它将梯度旋转作为原则，能让大模型训练提速约 1/3，比 Muon 高效 10% - 15%，还能全模型优化，揭示了矩阵优化新方向。
ICLR 2026｜在「想象」中进化的机器人：港科大×字节跳动Seed提出WMPO，在世界模型中进行VLA强化学习
香港科技大学 PEI - Lab 与字节跳动 Seed 团队提出 WMPO 新范式，可让具身智能在‘想象中训练’，解决传统 VLA 训练瓶颈，目前论文、代码与模型均已开源。
上交大智能计算研究院论文：不只算对答案，大模型如何真正学会运筹建模丨ICLR 2026
上海交大智能计算研究院提出 StepORLM，通过生成式过程监督提升运筹建模可靠性。研究反思传统训练范式局限，在多数据集测试中，小参数的 StepORLM 表现超大型模型，还分析现有方法缺陷并提出解决框架，有重要方法论和应用意义。
又一华为天才少年入局具身创业！用视频生成数据训家用机器人，首个模型登顶具身基模榜单
又一华为天才少年周凯文加入具身创企诺因智能。该公司成立不到一年，专注ToC家用具身智能机器人，用视频生成数据训练模型，其KnowinBrain模型登顶具身基模榜单，团队人才密度高。
用得越多、失业越快？GitHub 大改 Copilot 规则：默认拿个人代码训练 AI，还搬出 Anthropic 挡枪！
当地时间3月26日，GitHub宣布自4月24日起，Copilot Free、Pro和Pro+用户交互数据默认用于训练改进AI模型，但用户可手动退出。它称此举因模型需更多数据，还拿微软等挡枪，却遭开发者吐槽。
一年从3B卷到0.xB：MonkeyOCRv2用0.7B拿下17语种文档解析开源第一
文档OCR正迈入小模型时代，MonkeyOCRv2以0.7B、0.6B参数在MDPBench上超越3B模型。它重新分配系统职责，采用互补预训练目标，还开源训练数据，且迁移到多任务表现良好。
腾讯混元世界模型1.1开源：单卡秒级重建3D世界成为现实
腾讯混元团队开源混元世界模型1.1，它是混元3D世界模型1.0升级版。新增多视图及视频输入，单卡可部署，秒级创造3D世界。有核心突破，能处理多任务，经训练策略优化，多测试表现佳。
普林斯顿等高校提出AgentDistill：无需任何训练即可继承大Agent复杂能力，性能提升48%，成本降低90%
在AI领域，大型语言模型智能体计算需求大限制部署，传统蒸馏技术对智能体效果有限。AgentDistill提出解决方案，让学生智能体复用教师智能体的MCP工具包，无需训练继承复杂能力，小模型性能显著提升。