「生成式预训练」共找到 4004 篇相关文章
CVPR 2025 多模态大一统：斯坦福 x 复旦提出符号主义建模生成式任务
来自多机构研究团队提出基于符号化表征的生成任务描述框架，将符号化思维引入生成任务建模。实验证明，该框架在跨模态生成任务中表现出色，为推进生成式人工智能能力提供了成本效益高且可扩展的基础。
LLM 仅靠自身就能增强推理？SePT 给出简洁在线自训练范式
多数推理后训练方法依赖外部信号，SePT仅用模型自身生成的答案自训练，能提升推理能力，数学推理任务准确率升10个点。它核心简洁，设计关键是温度解耦等，不损模型通用能力，代码易迁移复现。
首个完整开源的生成式推荐框架MiniOneRec，轻量复现工业级OneRec！
中科大LDS实验室与Alpha Lab团队联合开源MiniOneRec，是生成式推荐首个完整端到端开源框架。它验证生成式推荐Scaling Law，可轻量复现OneRec，提供一站式训练与研究平台，技术优势明显。
大道至简，何恺明团队新作pMF开启像素级「无潜、单步」生成范式
何恺明团队新论文提出用于单步、无潜空间图像生成的pMF框架，直指主流扩散与流匹配模型通病。该框架将v、u和x三个场关联，训练网络把噪声输入直接映射为图像像素，实验表现强劲。
冷门新语言AI写不动？IEEE论文：从零到及格线，MoonBit给出完整训练路线
IEEE论文聚焦新语言MoonBit和Gleam，探讨大模型代码生成能力。研究发现大模型零样本生成新语言代码能力差，few - shot和RAG有提升但有限，继续预训练及指令迁移可显著提高模型表现。
美团杀入视频生成模型赛道，LongCat-Video 136亿参数媲美顶尖模型，效率提升10倍
美团LongCat团队发布LongCat - Video基础视频生成模型，有136亿参数量，多任务表现出色。它核心亮点多，还建立了数据处理流水线，采用特殊架构和训练方法，提升了生成效率，性能媲美顶尖模型。
生成式推荐补上关键一环！语义ID首次实现可微分联合优化 | SIGIR'26
生成式推荐依赖语义ID，可现有语义ID常先学好再冻结，与推荐目标不一致。论文DIGER首次将可微分语义索引机制引入生成式推荐框架，让推荐损失参与语义ID学习，还设计策略解决训练问题，实验表现佳。
还得是华为！Pangu Ultra MoE架构：不用GPU，你也可以这样训练准万亿MoE大模型
华为盘古团队发布Pangu Ultra MoE模型架构与训练方法的中文技术报告。该模型全流程在昇腾NPU上训练，团队在架构和训练方法创新，实现准万亿MoE模型训练，还在多方面优化提升性能。
告别“音画割裂”与“人物崩坏”！AutoMV：首个听懂歌词、卡准节拍的开源全曲级MV生成Agent
现有AI视频生成模型做全曲MV有时长限制、音画割裂和一致性差等问题。AutoMV作为开源多智能体系统，模拟人类影视制作流程，能生成长达数分钟、叙事连贯且音画同步的完整MV。
AI 视频生成的未来在中国
当地时间3月24日，OpenAI宣布关闭视频生成应用Sora，这是其冲刺IPO前的战略调整。Sora曾是AI视频生成领域明星产品，性能卓越，但因内容生态缺失、商业变现难而关停。中国AI视频生成赛道崛起，应用场景丰富，形成生态壁垒。