搜索：生成式预训练

「生成式预训练」共找到 4031 篇相关文章

「流匹配」成ICML 2025超热门主题！网友：都说了学物理的不准转计算机

第42届国际机器学习大会（ICML）2025年7月将在加拿大举行，生成式AI前沿热点转向高质量、稳定、简洁、通用模型形态，流匹配技术踩中热点。它源于流体力学，能将噪声转化为数据，与扩散模型有紧密联系。

为让模型真正“能行动”，需可执行、可验证的符号世界模型，但现有自动生成路线有困局。研究团队提出 Agent2World，经实验验证有显著效果，能稳定产出高质量符号世界模型，开辟 AI 理解现实环境新可能。

2025百度世界大会发布文心5.0，这一2.4万亿参数的原生全模态模型，训练之初融合多模态数据，支持联合输入输出。同日OpenAI推出GPT - 5.1，文心5.0在多方面表现出色，如情绪安抚更贴心、多模态理解能力强等。

清华开源首个股票K线大模型Kronos，是专为金融市场K线序列预训练的模型，处理金融数据高噪声特性。采用两阶段框架，有安装、预测步骤，还有批量预测方法，项目地址为https://github.com/shiyu-coder/Kronos。

Meta等团队提出“语言自我博弈”（LSP）框架，让语言模型自己和自己“玩游戏”，在无外部数据输入下自我改进。实验显示，其性能可媲美甚至超越用大量人类数据训练的模型，为缓解数据稀缺提供新思路。

单图像3D重建是计算机视觉难题，传统基于回归和生成式方法各有局限。Stability - AI开源SPAR3D模型，融合两种方法规避局限，仅0.7秒完成单图实时3D重建，实验显示性能显著优于其他基线方法。

Cursor模型更新至Composer 2.5，测评成绩亮眼，性能接近Claude Opus 4.7，价格仅为其1/10。该模型以Kimi打底，在训练栈上做了改进。此外，Cursor与马斯克达成算力合作，走上自研之路。

陶哲轩判断数学从证明稀缺进入过剩时代，AI 使证明生成加速，出现验证和消化跟不上的‘阻抗失配’现象。如 Erdős 问题有众多待评估方案堆积，而仅1196号案例跑通‘三件套’。他还指出学术评价体系将重写。

著名数学家陶哲轩在与播客主持人Dwarkesh Patel的对谈中分享使用AI一年后的观点，认为AI已将想法生成成本降至几乎为零，但验证和评估成新瓶颈，还探讨其对数学研究的影响及未来发展。

谷歌发布世界模型原型 Project Genie，用一句话或图就能生成可玩交互的实时虚拟世界，由劈柴哥和哈萨比斯站台。它基于 Genie 3、Nano Banana Pro 和 Gemini 构建，解决了世界模型长期以来的短板，目前处于实验阶段。