「预训练策略」共找到 2842 篇相关文章
Meta最新大模型RL微调：在线DPO/GRPO显著优于离线DPO
Meta和NYU研究强化学习在大模型微调中的有效性，对比离线、半在线和在线训练范式。半在线和在线显著优于离线，多任务结合可验证与不可验证任务能提升性能，还给出不同任务的测试数据。
腾讯混元团队最新研究：让 AI 从「固定模型」走向「实时适配系统」
腾讯混元团队提出论文《HY-WU (Part I)》，尝试让模型在推理阶段根据输入实时动态生成适合任务的参数，而非依赖固定参数。通过多类实验验证，这种方式在图像编辑等任务中有明显优势，还降低了训练复杂度。
相机参数秒变图片！新模型打通理解生成壁垒，支持任意视角图像创作
S-Lab等机构研究员提出Puffin统一多模态模型，它能整合理解相机参数与按参数生成对应视角图片的能力。通过“用相机思考”和400万组数据训练，解决此前模型问题，还构建相关数据集和评测基准，性能出色。
抖音&LV-NUS开源多模态新模，以小博大刷新SOTA，8B推理比肩GPT-4o
抖音SAIL团队与LV - NUS Lab联合推出多模态大模型SAIL - VL2，以中小参数规模在106个数据集实现性能突破。该模型从架构、数据、训练三方面创新，后经全链路优化，在多数据集验证中表现卓越。
VLA统一架构新突破：自回归世界模型引领具身智能
北京智源研究院联合中科院自动化所提出 UniVLA 全新 VLA 模型架构，基于全离散、自回归机制建模多模态信号，后训练引入世界模型。它刷新多项基准纪录，在真机操控和自动驾驶有潜力，为多模态感知决策融合带来新思路。
Thinking Machines首款产品重大更新：K2 Thinking、Qwen3-VL都可以微调了
由前OpenAI CTO创办的Thinking Machines Lab推出的首款产品Tinker API有重大更新。取消候选名单面向所有用户，还可微调Kimi K2 Thinking，新增兼容OpenAI API接口，支持Qwen3 - VL视觉输入，降低模型训练门槛。
6位前DeepMind老将打造「AI指挥官」，一半成本刷新SOTA
6名前Google DeepMind成员创立Poetiq，搭建元系统让前沿大模型自动生成解决特定任务的策略和模型组合，降低推理成本。其Gemini 3 Pro优化技术在ARC - AGI - 2上创SOTA，成本仅为之前最优方法一半。
大量英伟达GPU开始在仓库吃灰
微软CEO纳德拉承认，公司有成堆GPU因缺电、缺空间闲置。如今电力与数据中心建设跟不上AI产业扩张，算力端企业调整策略，网友建议开发低能耗芯片，微软还将向阿联酋投资建设数据中心。
裁员现在不叫裁员，叫 AI 裁员
当下很多公司出现‘AI裁员’现象，在AI加持下，人员价值被重估。重复性高、难证边际价值的岗位易被裁，公司会加大对与AI相关岗位的投入。中美企业在裁员做法类似，但人才策略不同。
社区供稿丨揭秘端到端文档OCR模型 POINTS-Reader
腾讯开源端到端文档OCR模型POINTS-Reader，论文被EMNLP 2025主会录取。它提出可扩展数据生成方案，具简洁、性能好、高吞吐量等特点，通过两阶段训练方案解决依赖蒸馏数据问题，在多基准测试表现佳。