「生成式预训练」共找到 4004 篇相关文章
让AI自己“炼数据”！DataChef开源：用强化学习自动生成LLM数据配方
上海人工智能实验室联合复旦大学开源DataChef，它能通过在线强化学习自动生成LLM数据配方。实验显示其能力逼近Gemini - 3 - Pro，超越人类专家设计算法，解决传统数据工程难题，推动大模型数据工程迈向新范式。
SnapMoGen：44 小时动作数据 + 12 万文本注释，文本驱动动作生成数据集
近年来文本驱动动作生成有进展，但受限于数据集质量。Snap团队提出SnapMoGen数据集和MoMask++模型。前者有2万条动作片段和12.2万条文本描述，后者建模更有效，还结合LLM提升适用性，但二者都有局限。
直播预约 | SwS: 强化学习训练能否不依赖外部知识优化模型的弱点？
该论文提出强化学习场景下的启发式数据合成流程（SwS），利用模型自我感知弱点驱动自动化问题生成，弥补推理缺陷。对其扩展后适应性更广，在多基准测试集和模型上验证有效，性能提升显著。
圣路易斯联邦储备银行报告：美国大量人口已使用生成式AI
圣路易斯联邦储备银行报告显示，截至2024年末，美国18至64岁近40%人口用生成式AI，职场23%劳动者每周至少用一次。还对比其与PC、互联网普及情况，分析使用差异及对经济的生产力提升。
一句话生成“非程序员的 Claude Code 指南”，比 NotebookLM 更好用
2026年，Anthropic公司的Claude Code成热议话题。它因AI Coding火和公司能力强受关注。Anthropic CEO认为初级甚至部分高级开发工作将大多由AI完成。Claude Code不仅适合开发者，也能为普通用户提供多种功能。还能用Google Gemini图文并茂功能一句话生成其学习指南。
AI系统10分钟生成CVE漏洞利用程序：网络安全攻防战进入“分钟时代”
研究人员开发的AI系统能10 - 15分钟生成CVE漏洞利用程序，成本约1美元，准确性和可靠性高。此外，HPTSA系统可利用零日漏洞。传统网络安全防御模式失效，攻防失衡加剧，AI攻防对抗趋势明显，有专业化、自主化、高强度特点。
快手高欢深度解读：多模态理解如何成为AIGC视频生成的“幕后功臣”？
2024 年 AIGC 爆发，多模态理解技术支撑 AIGC 原生应用。快手高欢在 AICon 大会分享多模态理解在 AIGC 场景应用，介绍主流 AIGC 产品形态，探讨其背后多模态理解方法、提升能力途径及赋能 AIGC 的方向。
ICLR 2026 | CineTrans: 首个转场可控的多镜头视频生成模型，打破闭源技术壁垒
随着视频生成模型发展，影视级长视频需多镜头序列及自然转场，这成新挑战。上海人工智能实验室团队提出 CineTrans 模型，基于掩码机制实现自动化转场，还构建 Cine250K 数据集，实验效果超基线。
算力都去哪儿了？这个 Seedance 2.0 生成的梗视频给出了答案
有人用Seedance 2.0将Anakin and Padmé梗做成AI视频讽刺AI行业。视频对话暗示算力用途与宣称不符，最后几秒AI将帕德梅形象处理成擦边画风，揭示算力真实去向。
75%预训练数据都能删！Jeff Dean新作：全自动筛除低质量数据
Google DeepMind团队开发的DataRater可全自动评估数据质量，用元学习筛选有价值数据，提升模型训练效率。它能减少计算量、提高性能，在低质量数据集效果佳，还能跨模型规模泛化。