搜索：多步聚合训练

「多步聚合训练」共找到 5695 篇相关文章

李国杰院士：AI4S里程碑式重大成果综述

本文由李国杰院士撰写，对AI for Science近年里程碑式突破做全面综述，涵盖数学、物理、化学等多领域成果，如李雅普诺夫函数构造、AI辅助核聚变等，还探讨了AI4S潜力与挑战。

字节Seed发布全新多模态智能体框架M3 - Agent，能听会看、有长期记忆且免费开源。团队还开发新长视频问答基准M3 - Bench并开源。实验显示，M3 - Agent在多基准测试中显著优于基线模型。

去年谷歌定义了Agent，如今随着大模型发展其能力升级。Skywork AI推出Super Agent平台，有5个专家AI agent和1个通用AI agent，能生成多类型内容且支持溯源。它突破行业瓶颈，还开源相关框架和MCP。

BIGAI与中科大等团队提出MILR，通过测试时隐空间推理，在不更新模型参数下优化图文表示，提升复杂图像生成能力。该方法在多基准测试达SOTA，还探讨了测试时扩展与奖励模型，未来有诸多拓展方向。

如今的大语言模型推理能力关键在于测试时扩展，但长思维链有局限。微软研究团队用主动式强化学习探索，成果 rStar2 - Agent 方法训练出 14B 的 rStar2 - Agent - 14B 模型，性能超 671B 的 DeepSeek - R1。

腾讯混元AI实验室开源HunyuanWorld 1.0，这是业界首个支持沉浸式、探索性和交互性3D世界生成的全开源模型。它能通过文图生成3D场景，为多领域提供支撑，还给出安装和代码使用示例。

LLM提示分思维链（CoT）、ReAct和声明式自我提示（DSP）三类。CoT鼓励模型推理，适合多步骤复杂问题；ReAct结合推理与动作，是代理基础；DSP让模型声明计划，用于模块化任务。还给出使用场景与对比。

本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。

多模态奖励模型（MRMs）对提升多模态大语言模型表现至关重要，强化学习理论上可引入长期推理能力，但现有RL算法用于训练MRM会不稳定。中科院、清华等团队推出R1 - Reward模型，在多模态奖励模型benchmark上有显著提升。

OpenAI官宣下一代旗舰模型GPT - 6 Astra，定义其为「世界上最智能、对齐程度最高」的模型。它多项基准测试成绩惊人，在编程、计算机使用等多领域表现卓越，还改写科研纪录，不过因安全能力强暂未全开放。