搜索：预训练语言模型

「预训练语言模型」共找到 8400 篇相关文章

综述 | 从“说出来”到“脑中算”：Latent Reasoning的范式跃迁与无限可能

大型语言模型用显式思维链推理有局限，潜在思维链（Latent CoT）让推理在连续隐藏状态空间进行。论文梳理该领域，建立框架，介绍方法，探讨可解释性与无限深度推理，指出价值、挑战与未来方向。

近期，阿里安全AGI实验室发布3款Yuvion LLM，在AI安全与内容安全领域多维度领先。它以‘对抗即智能’为原则，构建五类数据体系，采用三阶段训练范式，通过YLRE四级评测体系验证能力。

5月27日，上海新智具身智能科技有限公司宣布完成近亿元天使轮融资。该公司源自复旦大学，核心团队实力强。它聚焦触觉具身智能，构建技术闭环，在数据采集、模型训练等方面有进展，已在工厂落地POC验证订单。

2026年5月深度机智成立一周年，其Z - WM在WorldArena Track 2夺冠，领先30.5分。该公司围绕人类第一视角数据构建完整技术体系，其成果表明生成数据可用于具身智能模型训练，具身智能竞争重心正迁移。

机器人走出实验室后，训练数据需覆盖真实世界情况。OVOW由多团队完成，被ECCV 2026接收。它从单目视频出发，输出可编辑、可碰撞的实例级Mesh，串联视觉基础模型完成流水线工作，能用于物理仿真。

最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。

IDEA团队张磊团队提出OVSeg3R开集3D实例分割学习新范式。它无需人工后处理和3D掩码标注，降低训练成本，有望让3D实例分割商业落地，可用于自动驾驶、智能家居等领域。

北京时间凌晨3点，OpenAI发布ChatGPT Images 2.0，是先进模型，能处理复杂视觉任务。它精度控制力高、多语言能力强，风格表达成熟，支持多种宽高比，有现实世界理解能力等，已向相关用户开放，但也有局限性。

大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。

B站升级动画视频生成模型Index - AniSora技术并开源，支持多种二次元风格视频镜头一键生成。基于相关研究提出首个专为二次元视频生成的强化学习技术框架，构建奖励数据集、训练AnimeReward、提出GAPO优化策略，实验验证其有效性。