搜索：科学多任务学习

「科学多任务学习」共找到 3304 篇相关文章

字节Seed新作：模型合并如何改变大模型预训练范式

字节跳动Seed团队在arXiv发表论文，提出预训练模型平均（PMA）技术。该技术将模型合并引入预训练阶段，可提升性能、预测衰减阶段表现，还能解决训练问题。不过，高学习率影响和强化学习应用待研究。

先进多模态大模型处理高分辨率图像有瓶颈，复旦和南洋理工研究者提出基于视觉Grounding的多轮强化学习方法MGPO，能让模型精准推理，还可使模型从答案反馈中涌现视觉定位能力，避免依赖昂贵标注。

清华大学等联合提出高通量视觉高保真仿真器GS - Playground，被RSS 2026录用。它解决现有仿真器渲染开销高、资产制作依赖人工、Sim2Real迁移鸿沟大等问题，是全栈重新设计的仿真基础设施。

阿里开源长文本深度思考模型QwenLong - L1，登上HuggingFace热门论文第二。它解决了长文本强化学习训练难题，通过渐进式上下文扩展训练，在多基准测试中表现出色，还探讨了SFT和RL作用。

多模态奖励模型（MRMs）对提升多模态大语言模型表现至关重要，强化学习理论上可引入长期推理能力，但现有RL算法用于训练MRM会不稳定。中科院、清华等团队推出R1 - Reward模型，在多模态奖励模型benchmark上有显著提升。

2025年10月28日，“人工智能赋能精品创作沙龙”暨首届“幻镜”AI视听测评季成果发布会在京举办，活动旨在为AI视听领域建科学测评体系。会上公布测评结果、优秀作品片单，发布研究分析报告。

本文将基于相互信息的知识迁移学习与柔性动作 - 评论（MIKT - SAC）算法结合，解决主动流动控制中状态和动作维度的跨领域问题。应用于两个测试案例，结果显示该方法优于SAC算法，能显著减少训练时间、降低阻力系数。

北邮百家AI团队与腾讯AILab提出MoE - CL架构用于LLM自进化持续指令微调。其结合‘解耦LoRA专家’与‘GAN对抗降噪’，在腾讯业务及基准测试中效果佳，降低人工成本，准确率优于主流方法。

近日，清华等多机构发布全球首篇SGDL系统性综述。文章介绍SGDL诞生背景、核心架构、应用场景，探讨其与大模型结合潜力，也指出面临的挑战，认为其是思维范式跃迁，正构建智能社会蓝图。

Andrej Karpathy的个人项目nanochat更新，现训练GPT - 2级别的LLM成本低于100美元，在单个8XH100节点上仅3小时花约73美元，较7年前成本降600倍，还列出关键优化技术，设排行榜。