搜索：视频预训练模型

「视频预训练模型」共找到 8418 篇相关文章

无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention

高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。

大模型价值主战场正向后训练转移。xAI发布的Grok 4通过后训练取得强大性能，在多项测试中领先。后训练可解决通用模型产业落地难题，不同公司探索新方法，且后训练有五大关键要素，阿里云提供一体化支撑。

真机数据匮乏使具身智能VLA模型发展受限，现有真机数据与所需上亿级训练样本相差甚远。BeingBeyond团队提出创新性方案，利用人类视频手部数据构建数据集，训练出VLA模型Being - H0，经实验验证效果良好。

NVIDIA发布NitroGen模型，利用40000小时带按键显示的游戏视频，构建视觉-动作数据集，训练出能玩超1000款游戏的通用基础模型，在跨游戏泛化和微调任务中表现卓越，为具身智能发展提供新思路。

视频生成进入大规模时代，但计算成本高，自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架，无需数据和重新预训练，实现视频扩散模型线性化替换，保持生成质量，加速推理并降低成本。

CMU团队评估20多个大模型，发现只有强化学习（RL）训练的模型能将数学推理技能广泛迁移到其他任务，监督微调（SFT）训练的模型迁移有限甚至无迁移。研究还探索差异原因，表明RL微调更具优势。

清华、北通院和宾州州立大学研究人员提出“绝对零”训练法，让大模型通过自我博弈生成并解决任务获推理能力。测试显示，其训练出的模型超专家标注样本训练的模型，且能提升编程与数学推理表现。

美团LongCat团队发布LongCat - Video基础视频生成模型，有136亿参数量，多任务表现出色。它核心亮点多，还建立了数据处理流水线，采用特殊架构和训练方法，提升了生成效率，性能媲美顶尖模型。

Alaya Lab等联合推出的Alaya - EVOKE能生成小时级视频，解决常见问题。它把记忆搬到模型外，改造教师模型，经多轮技术操作，实验成绩佳，给出清晰训练方案，也指出项目边界。

加州大学洛杉矶分校与字节Seed等团队联合完成Self-Forcing++，让自回归视频生成模型突破4分钟时长极限。它解决传统模型架构缺陷，经三步技术实现稳定超长视频生成，实验超基线，但仍有长时记忆缺失等问题。