「视觉语言预训练」共找到 3315 篇相关文章
ICML 2025 | 千倍长度泛化！蚂蚁新注意力机制GCA实现16M长上下文精准理解
在大语言模型发展中，长文本建模挑战大。蚂蚁研究团队提出注意力机制GCA，可端到端学习检索相关片段，实现超长序列处理与泛化，其Triton kernel实现已开源，论文被ICML 2025接收。
“看懂”指令并做动作！Motion-R1结合COT让角色动起来
大语言模型为文本驱动动作生成带来新可能，但现有方法有局限。GigaAI提出Motion - R1框架，融合“思维链”机制，能分解指令、优化动作合成，虽有不足，但在测试中表现优于主流方法。
DeepSeek R1 迎来小更新大升级，性能直逼 OpenAI o3！
昨日，DeepSeek 发布 R1 大模型最新版本 DeepSeek - R1 - 0528 并开启公测。虽官方未附详细技术说明，但用户反馈推理和输出有改进，也有性能方面的不同看法，其在基准测试表现佳。
搜索Agent最新高效推理框架：吞吐量翻3倍、延迟降至1/5，还不牺牲答案质量丨南开& UIUC研究
大语言模型驱动的搜索智能体有能力但效率低。南开和UIUC研究人员剖析效率瓶颈，提出SearchAgent-X框架，实现吞吐量提升、延迟降低，且不牺牲答案质量，还揭示AI智能体平衡和等待问题。
DeepSeek用的GRPO有那么特别吗？万字长文分析四篇精品论文
文章解读 Kimi k1.5、OpenReasonerZero、DAPO 和 Dr. GRPO 四篇论文，分析 DeepSeek R1 里 GRPO 及改进算法。指出 GRPO 非特殊 RL 算法，当前 RL 算法实现相似，变革聚焦价值函数取舍等核心维度。
SIGIR 2025 | 解决扩展和迁移难题，华为新加坡提出InstructRAG，提升高达19%
大语言模型任务规划面临可扩展性和可迁移性挑战，华为新加坡团队提出 InstructRAG 方案，通过多智能体协同架构实现指令图扩展与少样本任务迁移，在多数据集测试中性能提升高达 19.2%。
一场对话，我们细扒了下文心大模型背后的技术
信通院大模型推理能力评估中，文心X1 Turbo获最高级“4+级”。百度AI Day上，副总裁吴甜解析文心4.5 Turbo和文心X1 Turbo，从多模态、深度思考等方面介绍技术，还展示其在多场景应用成果。
CVPR 2025 | SketchVideo让手绘动起来，视频生成进入线稿时代
中国科学院大学等团队提出基于线稿的可控视频生成和编辑方法SketchVideo，发表于CVPR 2025。它基于预训练模型添加线稿控制网络，解决现有视频生成模型可控性等问题，实现高质量视频生成与编辑。
中学生就能看懂：从零开始理解LLM内部原理【八】｜ 什么是残差连接？
本系列是对长篇文章《Understanding LLMs from Scratch Using Middle School Math》的解读笔记。本篇介绍残差连接，指出传统多层模型有网络退化和梯度传导困难问题，而残差连接能缓解，还说明了其工作原理和可行性。
大模型下半场，阶跃凭什么领跑多模态之战
国内大模型竞争分资源派、技术派、国家队三阵营，多模态成竞争分水岭。阶跃星辰成立两年发22款自研基座模型，16款为多模态。其坚持理解生成一体化路线，在多模态领域有优势，还布局多应用场景。