「双预训练架构」共找到 3645 篇相关文章
ICCV 2025｜UV-CoT：无监督视觉推理新突破，偏好优化重塑图像级思维链
随着文本领域思维链推理机制成功应用，研究者将其引入视觉理解任务。现有模型有局限，本文提出UV - CoT新框架，设计无监督数据生成与偏好优化机制，提升模型能力，摆脱对人工标注依赖。
全能高手&科学明星，上海AI实验室开源发布『书生』科学多模态大模型Intern-S1 | WAIC 2025
7月26日，上海AI实验室在WAIC 2025上发布并开源『书生』科学多模态大模型Intern-S1。它首创‘跨模态科学解析引擎’，在多学科专业任务上超越顶尖闭源模型，多模态综合能力领先主流开源模型。
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。
ICML 2025 Oral！北大和腾讯优图破解AI生成图像检测泛化难题：正交子空间分解
OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。
5.8k Star 基于LangGraph的Multi-Agents炒股框架，7种Agent形成金融交易闭环
TradingAgents是模拟真实交易公司运作的多智能体交易框架，用LangGraph构建，有灵活性与模块化特点。由7种LLM驱动的专业智能体协同评估市场、制定决策，还介绍了架构和实战操作。
开源端到端语音大模型：直接从原始音频输入，生成语音输出
目前大模型大多只能输出文本，人机音频交互不顺畅。Step - Audio团队开源端到端语音大模型Step - Audio - AQAA，能直接听懂音频问题并合成语音回答，介绍了其架构和各核心模块。
从0到1拆解FreeWheel ChatBI：大模型如何重塑视频广告智能数据分析新生态
本文结合 FreeWheel 实际应用经验，分享构建 ChatBI 系统核心实践。介绍其核心功能、技术实践，如让 LLM 理解业务、智能选表等，还提及系统架构、算法服务，最后总结上线效果并展望未来优化方向。
北大卢宗青：现阶段世界模型和 VLA 都不触及本质｜具身先锋十人谈
北大卢宗青作为具身大脑创业者，认为现阶段世界模型和 VLA 未触及本质。他指出互联网视频数据是唯一可规模化的道路，其创立的「智在无界」正标注互联网视频中人类关节动作让模型学习。
SFT+RL双管齐下：ReasonGen-R1如何破解文生图「指令不遵」难题？
上海科技大学等机构提出 ReasonGen-R1 框架，结合链式推理监督微调与强化学习，提升自回归图像生成模型推理和创作能力，已全面开源。介绍了其训练阶段、实验结果及推理链模式。
SkyReels-Audio让嘴型和音频完美匹配不再难
音频驱动的动态人脸生成研究较少，昆仑万维提出SkyReels - Audio框架，基于预训练视频扩散变换器构建，支持无限长度视频生成与编辑，采用混合课程学习等策略，保障视频视觉保真度和时间一致性。