「生成式预训练」共找到 4007 篇相关文章
快手在 AI 上，渐入佳境
文章介绍快手多模态大模型 Keye-VL 1.5，参数 8B 适合中小企业。它侧重短视频场景，视频理解能力强，能与业务结合，提升推荐等场景效率。还详述其架构、预训练、后训练及训练架构优化等技术细节。
7B模型“情商”比肩GPT-4o，腾讯突破开放域RL难题，得分直翻5倍
腾讯混元AI数字人团队提出RLVER框架，解决开放域RL在真实交互中的‘情商’优化困境。经其训练的Qwen2.5 - 7B模型在情感对话基准得分跃升，比肩顶级商用模型，团队还有诸多启发性发现。
开源音视频同步SOTA基座：极简的单流架构，2秒出片
AI视频生成迈入音视频同步新纪元，闭源巨头已展实力，而上海创智学院与Sand.ai联合发布的开源音视频生成基础模型daVinci - MagiHuman，以极简单流架构，2秒就能在1张H100显卡上生成精准音视频同步画面。
ElevenLabs 发布“视频到音乐”：AI 读懂视频内容，为其创作氛围匹配的 BGM。
ElevenLabs推出“视频到音乐”功能，其“Eleven Music”模型能分析视频上下文、情绪和风格，一键生成匹配的定制背景音乐，还能添加画外音和音效，为创作者提供端到端音视频解决方案。
压缩之外，Visual Tokenizer 也要理解世界？
MiniMax和华中科技大学发布视觉tokenizer新研究VTP，引发业界热议。该研究揭示传统仅以重建为目标的视觉tokenizer缺乏高层语义表示，提出在预训练中引入语义理解，还发现Scaling Law现象，虽有争议但为研究提供新视角。
端到端GUI智能体首次实现“犯错-反思-修正”闭环，模拟人类认知全过程
南洋理工大学MMLab团队提出框架GUI - Reflection，让端到端多模态GUI智能体有“自我反思”能力。它在各训练阶段引入“反思与纠错”机制，实验证明该框架能提升智能体能力。
AI 互动游戏的 GPT 时刻到了！谷歌Genie 3首测！太牛了！
谷歌去年发布世界模型Genie 3，支持实时生成可交互视频内容，因成本高未开放。现美国18岁以上Ultra用户可试玩，其操控延迟低、画面清晰、物理交互真实，还介绍了操作流程等。
李飞飞刚立规矩才13天，国产卡上「真物理」就来了！
李飞飞为「世界模型」立规矩13天后，中国「草根」团队Mogo推出全球首个具备高动态物理交互能力的世界模型Magpie 1.0，在国产芯片上实现超10分钟物理一致性，开辟全新技术路径。
告别数据「噪音」，UCSD大模型推理新方法DreamPRM充当「信号放大器」，登顶MathVista测评榜
DreamPRM由加州大学圣地亚哥分校团队开发，在MathVista测评榜夺冠。它通过双层优化框架解决多模态过程奖励模型训练难题，能与多模态大模型集成，提升推理能力，实验效果显著。
LeCun发布最新世界模型：首次实现16秒连贯场景预测，具身智能掌握第一视角！还打脸用了VAE
LeCun团队推出PEVA模型，让具身智能体学会人类“预判能力”，首次实现16秒连贯场景预测。它结合结构化动作表示与条件扩散Transformer，用真实数据训练，解决长时序问题，还能筛选最优动作。