「预训练范式」共找到 2901 篇相关文章
Nature公开谷歌IMO金牌模型技术细节！核心团队仅10人，一年给AI编出8000万道数学题训练
谷歌DeepMind的IMO金牌模型AlphaProof技术细节公开。团队规模小，核心成员是IMO金牌得主。它把数学证明当游戏，用30亿参数模型和改进树搜索算法。训练难题靠自动形式化解决，赛场用TTRL突破，已开放使用。
黄仁勋对话 10 位开源 AI 掌门人：未来算力将向后训练倾斜，OpenClaw 开启了现代计算机的新想象｜GTC 2026
在 GTC 2026 上，黄仁勋与 10 位开源 AI 掌门人探讨开放模型。大家认为 AI 正从模型走向系统，未来算力或向后训练倾斜。OpenClaw 让大众感知到 agent，企业落地难点在治理，开放模型价值体现在可控、定制和信任。
Karpathy最新手搓！复现GPT-2成本狂降600倍：仅需507元3小时训练「最好的AI学习项目」
Andrej Karpathy的个人项目nanochat更新，现训练GPT - 2级别的LLM成本低于100美元，在单个8XH100节点上仅3小时花约73美元，较7年前成本降600倍，还列出关键优化技术，设排行榜。
离谱……面壁让 AI 写了个训练框架，然后它自己训出了最强的 1B 模型：MiniCPM5-1B
面壁发布 1B 参数量级最强端侧文本大模型 MiniCPM5 - 1B，其 Base Model 由 AI 编写的训练框架 ForgeTrain 训出，速度超英伟达 Megatron 10%。该模型性能出色，部署门槛低，数据治理方案对应数据集也已开源。
视频世界模型跑长序列不「崩」了！用光流约束+历史记忆+多步训练，让动态场景稳如磐石
现有视频世界模型在长时间交互中易出现运动不合理与场景崩坏问题，核心原因是误差累积。MagicWorld提出面向长时稳定性的交互式建模框架，通过光流约束、历史缓存检索和多步聚合训练，有效缓解误差累积。
全球首个完全AI编写的训练框架来了，速度反超英伟达：面壁要用 AI 把国产算力软件重写一遍
面壁智能发布全球首个全由AI编写的训练框架ForgeTrain，在华为昇腾系列上验证，速度超英伟达Megatron 10%。其构建分三阶段，目标是为不同需求“现场锻造”软件，还为国产算力软件生态赶超提供新思路。
突然变强！速度翻4倍，GPT Pro惊现「神级」操作，网友怀疑GPT-5.5已就位
OpenAI悄悄完成GPT Pro模型升级，其速度提升、视觉理解能力增强。同时，代号「Spud」的GPT - 5.5已完成预训练，发布在即，AI竞争将更激烈。
从OpenAI回国的90后姚班博导，打造了国内首个开源Agent训练框架：从OpenAI团队解散与重组，看智能体十年沉淀
本文讲述90后姚班博导吴翼的经历。他曾在OpenAI参与多智能体研究，回国后投身学术与创业，打造国内首个开源Agent训练框架AReaL。他分享在OpenAI的经验，探讨创业、技术发展等问题。
奥特曼怕了！GPT-5.5「大蒜」决战谷歌，红色警报紧急拉响
三年前ChatGPT让谷歌恐惧，如今OpenAI被谷歌逼得拉响‘红色警报’。OpenAI计划发布新推理模型，‘Garlic’预训练有突破，还启动下一代模型。OpenAI调整策略，聚焦提升ChatGPT体验。
刚刚，Thinking Machines出手！首款交互模型来了，翁荔出镜实测
Thinking Machines Lab推出首个大模型TML - Interaction - Small，打破传统人机交互模式，实现全自然交互。它训练范式独特，采用双模型架构等设计，评测表现超GPT - Realtime 2.0等模型，后续还会推出更大尺寸模型。