「预训练框架」共找到 3463 篇相关文章
Gemini 3.5 Pro绝密泄露，前端赶超Fable 5！
全网被Gemini 3.5 Pro泄露刷屏，传闻7月17日发布。它在前端生成表现出色，一次成型、精准零失误，性能超Fable 5，但在硬核推理等任务上不如Fable 5和GPT - 5.6。谷歌为其重预训练，还准备对标GPT - Image 2的图像模型。
从最优传输角度训练奖励模型：让 RLHF 学会「忽略错误偏好」丨ICML 2026
浙江大学、小红书、北京大学等团队提出SelectiveRM，基于最优传输训练奖励模型。它重构训练目标，通过选择性分布对齐排除噪声偏好，解决了奖励模型训练中监督信号不可靠的问题，实验验证其有效且泛化能力好。
开源！强效果，高性能，严隐私？我全都要：OPPO 终端大模型实践
OPPO AI 中心推出开源端侧多模态大模型 AndesVL，含 0.6B - 4B 四档尺寸套件，有通用能力强等优势。它经多阶段训练，OPPO 还构建端侧部署方案，评测显示其在多方面表现优异，未来会继续技术革新。
AI秒懂短视频，快手大模型Keye-VL理解力爆表！技术细节全开源
快手全新多模态大语言模型Kwai Keye-VL上线且开源，能深度融合多模态信息，在视频理解、复杂视觉感知和逻辑推理上表现优异。介绍了其技术架构、预训练和后训练策略及训练架构优化等内容。
快手在 AI 上，渐入佳境
文章介绍快手多模态大模型 Keye-VL 1.5，参数 8B 适合中小企业。它侧重短视频场景，视频理解能力强，能与业务结合，提升推荐等场景效率。还详述其架构、预训练、后训练及训练架构优化等技术细节。
Agent框架各自为战？谷歌&微软：用Agent-KB让经验自由流动
当前不同框架的Agent知识无法互通，谷歌、耶鲁、字节、oppo等团队联合提出Agent KB，这是通用记忆基础设施，能让异构Agent框架共享经验。它有师生双阶段检索机制，实验验证其能带来显著增益。
SFT在帮倒忙？新研究：直接进行强化学习，模型多模态推理上限更高
学界常用「监督微调（SFT）+ 强化学习（RL）」训练大模型。但新研究发现，SFT 会引发「伪推理路径」，阻碍推理进步。相比之下，直接进行 RL 训练，模型多模态推理上限更高，该团队训练的模型还刷新了纪录。
用SFT打出RL的效果？微软联合提出高效后训练算法
大模型后训练阶段，SFT 和 RL 各有优劣。微软等联合提出新工作，量化 SFT 和 RL 在数据层面的差距，提出 IDFT 和 Hinted Decoding 等高效后训练技术，实验显示新方法泛化超 SFT、效率超 RL。
如何为 GPU 提供充足存储：AI 训练中的存储性能与扩展性
文章通过分析 MLPerf Storage v2.0 测试结果，探讨不同存储系统在大规模 AI 训练中的表现。介绍三类训练负载及新的 Checkpointing 负载，分析共享文件系统类别，给出比较视角，解读各负载测试结果并总结选型要点。
具身智能能力狂飙，安全却严重滞后？首个安全可信EAI框架与路线图出炉！
具身人工智能发展迅速，但能力与安全出现“脱钩”。上海人工智能实验室和华东师范大学团队撰写论文，为“安全可信具身智能”建立理论框架与蓝图，提出成熟度模型、分析框架等。