「生成式预训练」共找到 4004 篇相关文章
ImageNet分数越高，生成反而越糊？iREPA给出解释
Adobe Research论文指出，视觉模型在ImageNet分类准确率高，生成效果未必好，全局语义强易压扁空间结构。iREPA修改REPA训练流程，削弱全局干扰，提升了生成质量。
对谈 Chai-2 核心科学家乔卓然：抗体生成成功率提升百倍，分子生成平台是药物研发的 GPU｜Best Minds
文章访谈 Chai Discovery 创始科学家乔卓然，探讨 Chai-2 设计理念与行业意义。Chai-2 能零样本生成活性抗体，成功率提升百倍，将开发周期从数月缩至两周。未来分子生成平台或成药物研发的 GPU，合成数据将成“第三模态”。
大模型竞赛转向：决胜关键为何是“后训练”？
大模型价值主战场正向后训练转移。xAI发布的Grok 4通过后训练取得强大性能，在多项测试中领先。后训练可解决通用模型产业落地难题，不同公司探索新方法，且后训练有五大关键要素，阿里云提供一体化支撑。
一张俯视图，竟然能生成完整3D小镇？
获取高质量3D场景成本高、耗时长，现有3D生成模型扩展到完整场景生成时问题多。加州大学提出无需训练的3DTown框架，能从单张俯视图合成真实连贯3D场景，虽有挑战但表现优于基线方法。
腾讯开源Stand-In！轻量级身份保留视频生成新突破
生成符合指定身份的高保真视频挑战大，现有方法依赖大参数且兼容性不足。腾讯开源轻量级、即插即用的Stand - In框架，在身份保留文本生成视频任务中性能先进，兼容性强，有广阔应用潜力。
庞若鸣还有苹果论文？改善预训练高质量数据枯竭困境
苹果基础模型原负责人庞若鸣在 Meta 任职期间，其在苹果参与的高价值研究仍不断发表。研究团队针对大模型训练中高质量数据枯竭问题，提出 Synthetic Bootstrapped Pretraining (SBP) 预训练流程，提升模型性能。
大模型开发者必读！拆解世界级AI模型的诞生，Hugging Face把4年模型训练经验写成了一本开源指南
Hugging Face发布《The Smol Training Playbook》，分享约4年构建SOTA模型和数据集的经验。手册涵盖是否训练、训练何种模型、如何训练等内容，强调数据质量重要性，还介绍了模型设计、训练中的实践与教训。
即时编程与设计，软件按需生成：Google生成式UI将重塑人机交互体验
Google Research团队发布生成式UI研究，打破Markdown文字墙模式，能将用户需求实时转化为完整应用程序。系统通过多组件协作，构建不同风格界面，在多领域有应用案例，虽有挑战但前景好。
6个Agent组团Vibe Gaming：自己生成、试玩、修Bug
过去大模型生成的游戏虽代码能跑，但常陷入“可玩性黑洞”。Spellcaster让多个专用Agent协同处理，形成“生成—运行—检查—修复”循环。目前能快速生成多种游戏原型，未来将用世界模型直接生成画面。
Self-Forcing++：让自回归视频生成模型突破 4 分钟时长极限
加州大学洛杉矶分校与字节Seed等团队联合完成Self-Forcing++，让自回归视频生成模型突破4分钟时长极限。它解决传统模型架构缺陷，经三步技术实现稳定超长视频生成，实验超基线，但仍有长时记忆缺失等问题。