搜索：联邦学习算法

「联邦学习算法」共找到 1819 篇相关文章

RLPT：腾讯混元在预训练数据上实现自主强化学习

腾讯混元团队发布RLPT，是在预训练数据上应用强化学习的方法，可突破大语言模型扩展瓶颈。它能让模型自主学习推理能力，无需人工标注，在Qwen3 - 4B - Base模型实验中性能显著提升。

AI大神Karpathy发文指出强化学习（RL）有局限，效率随任务时长下降，与人类学习机制差异大。他提出复盘式进化Scaling范式，虽有很多细节待完善，但认为还有更多S型增长曲线待发现。

1月11日马斯克宣布7天内开源X平台推荐算法，如今承诺兑现。新算法由Grok驱动，全AI化，移除人工规则。它双引擎驱动信息流、15种行为预测打分，还揭示过滤机制与设计理念，为创作者提供曝光建议。

谷歌DeepMind让LLM驱动的智能体AlphaEvolve改写、进化算法代码。选定CFR、PSRO框架，只开放关键决策逻辑给LLM，通过生成、运行、评估、筛选循环，进化出VAD - CFR和SHOR - PSRO算法，表现超人类手工版本。

今天凌晨，ChatGPT 迎来重磅更新，推出 Study Mode（学习模式）。该模式下，ChatGPT 会帮助用户一步步解决问题，化身导师引导学习。它有交互式提示等多种功能，免费用户也能用，系统提示词还被公开。

北京大学周嘉欢与彭宇新教授合作在 IEEE TPAMI 发布研究成果 DKP++，针对终身学习的灾难性遗忘问题，提出分布建模引导的框架，增强历史知识记忆与跨域学习能力，代码已开源。

7 月，TML 发布 Inkling 模型，Mind Lab 发布 Macaron V1，二者均针对持续学习场景。持续学习走「参数空间的迭代」路线，让模型用得越多越好用。硅谷已有不少新尝试，产业链正在形成。

NUS、浙江大学和香港中文大学对强化学习与视觉智能交叉领域进行系统梳理，归纳200余篇工作为四大主题支柱，剖析算法等进展，提炼关键趋势，还介绍LLM的RL方法、视觉RL阵地等。

现代AI系统学习新任务时会灾难性遗忘旧知识，限制其持续学习能力。麻省理工学院研究者对比SFT和RL后发现，相同性能下RL更不易遗忘，提出遗忘定律，解释了RL优势源于其on - policy特性。

本文是阿里巴巴算法专家曹宇在AICon 2025北京站的分享。从RLHF系统出发，结合实践展示RL系统现状与发展，探讨超大规模RL方向，涉及理论、业界实践、开源生态等，还介绍了AICon北京站活动。