搜索：生成式预训练

「生成式预训练」共找到 4004 篇相关文章

YOLO26(极速目标检测) + SAM3(精准掩码生成) 搭建一套实用的流水线

文章介绍用 YOLO26 极速目标检测和 SAM3 精准掩码生成搭建流水线。阐述二者原理，给出环境配置、实战代码，分析结果，还介绍进阶优化技巧和常见问题解决方案，适合实时应用场景。

快手最新论文提出的 Recommendation-as-Generation（RaG），把推荐系统从「在已有视频里找答案」推进到「根据用户兴趣生成答案」，已在快手大规模广告系统中部署，带来广告收入提升。

大神Karpathy宣布加入Anthropic，重回一线大厂。他曾多次在AI领域转换角色，此次将加入预训练团队，开展用Claude加速自身预训练研究。外界揣测其离开OpenAI原因，加入Anthropic能为研究提供更多资源。

Skild AI推出Skild Brain机器人大脑，它在虚拟环境训练相当于一千年时间成型。此模型没在对应机器人训练，控制能力是涌现的，能应对肢体断裂、马达卡住等情况，还可完成精细动作。

微软亚洲研究院提出全新语音生成模型 VibeVoice，采用 next - token diffusion 机制，能将文字脚本转为最长 90 分钟、最多 4 人对话的高质量播客音频，在多方面有显著优势，未来潜力大。

本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。

常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。

当前音频驱动头像视频生成扩散模型合成长视频时难兼顾音频同步与身份一致，瓶颈在音频建模。复旦大学提出StableAvatar，首个端到端视频扩散Transformer，能无限时长生成，还介绍原理与演示效果。

复旦大学等机构将强化学习引入视频生成领域。提出的Cockatiel方法在VDC榜单夺冠，IPO方法在VBench登顶，超越Sora、Pika等模型，优化后视频生成效果在多方面显著提升。

上海人工智能实验室等多机构推出多模态生成与理解统一模型Lumina - DiMOO，采用全离散扩散架构。它解决传统多模态架构问题，有全离散扩散建模等四大创新，性能在多基准测试中领先，应用前景广。