搜索：生成式预训练

「生成式预训练」共找到 4004 篇相关文章

解决扩散模型过拟合的创新框架T-LoRA

预训练大型文本到图像扩散模型定制化时，样本有限易致过拟合。AIRI和HSE大学团队提出T - LoRA框架，动态调整训练能力、用正交初始化，实验显示其在单图像和多图像任务表现优，用户更偏好其生成图像。

文章围绕多模态推荐展开，从传统推荐算法演进到多模态表征技术，结合饿了么场景实践，还探索生成式推荐。介绍多模态推荐挑战与代表性工作，梳理表征技术发展，详述饿了么系统设计与训练，分析生成式推荐方案及业界路线。

扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。

传统RLVR训练中，rollout阶段耗时成瓶颈。厦大 - Shopee - 清华联合团队提出SPEC - RL，将投机解码引入RL，训练提速2 - 3倍，避免重复生成，与主流算法兼容，在多项基准测试中性能稳定。

这是基于Streamlit的应用程序，用LangChain和OpenAI的GPT模型从文本提取图谱数据并生成交互式图谱。有两种输入方式，具备可视化等特性，还给出安装、运行等指南。

该项目可自动从Reddit AI相关社区生成双语趋势报告。具备实时监控、多社区分析等功能，有详细趋势分析。介绍了安装设置、使用方法、创建仓库、自定义配置等内容，助用户掌握AI领域发展。

今年2月，美国阿拉巴马州州长签署行政命令推动生成式AI在州政府大面积应用，并发布深度应用报告。报告涵盖应用现状、伦理风险与策略、数据管理、政策治理等方面，为生成式AI在政府应用提供指引。

在2025秒哒创造者大会上可知，“三无”AI生成应用已诞生50万个商业应用，覆盖200多个细分领域。如“荣堂古村数字博物馆”等，它们变现能力强。秒哒是相关工具，操作简单，技术体系完整。

OpenAI奥特曼官宣暂停下一代旗舰模型强化学习训练两周，原因是确保安全等标准跟上能力水平。触发因素有Hugging Face事故和Astra达安全红线，后续将让AI监管AI，加固三道安全防线。

大型语言模型应用引发担忧，传统微调方法有短板，免训练对齐（TF Alignment）应运而生。本文是首篇系统综述TF对齐技术的论文，提出三阶段分类框架，实验显示TF方法优势明显，还指明未来研究方向。