「人类反馈强化学习」共找到 1976 篇相关文章
压缩即是全部 —— 菲尔兹奖得主给数学和 AI 的一封信
2026年3月，菲尔兹奖得主Michael Freedman发表论文《Compression is all you need》，用代数模型回答人类构建数学、人类与形式数学区别、人类数学家与AI协作三个问题，答案是“压缩”。文章还探讨了压缩在多领域的体现及对AI的意义。
AI教父Hinton暴论：AI永生之日，全人类变烤面包倒计时！
在Gitex Europe开幕日，「AI教父」Hinton接受专访，表达对AI发展的看法。他认为AI可深刻改变多领域，未来十年有望在数学领域超越人类，也指出AI能耗问题，担心人类触及能源极限，还强调AI可能灭绝人类，呼吁政府监管。
当AI比我们更聪明：李飞飞和Hinton给出截然相反的生存指南
如今AI发展火热，人类对其安全担忧已久。李飞飞和Hinton在Ai4 2025上给出相反答案，前者认为AI会成人类伙伴，安全性靠设计等；后者觉得超级智能或难控制，要造‘关心人类’的AI。还探讨了AI行为两种解读。
强化学习没作用？人大DelTA精准识别关键token，推理正确率大幅上升
人大高瓴研究团队提出DelTA算法，不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架，在多任务上提升base模型效果，还能让训练更稳定。
Qwen&清华团队颠覆常识：大模型强化学习仅用20%关键token，比用全部token训练还好
Qwen与清华LeapLab团队研究发现，大模型强化学习训练推理能力时，仅20%高熵token就能撑起效果，甚至超全部token训练。团队用此在Qwen3-32B创造新SOTA记录，还探讨了强化学习的相关特性。
真机RL杀疯了！机器人自学20分钟100分，数字孪生封神
至简动力等提出数字孪生协同强化学习框架 TwinRL，可在真机高效执行在线强化学习。它用手机构建数字孪生，让机器人先探索再真机操作，20 分钟达 100%成功率，比现有方法快 30%，还降低人类干预。
无需人类插手！AI战队自主进化，人类玩家瑟瑟发抖
论文《Agents of Change: Self - Evolving LLM Agents for Strategic Planning》以桌游《卡坦岛》为“考场”测试AI战略能力。研究团队设计四代AI特工，实验显示能自我进化的AI完爆静态AI，不过也存在计算成本高、依赖基础模型等问题。
LeCun团队揭示LLM语义压缩本质：极致统计压缩牺牲细节
图灵奖得主LeCun团队提出全新信息论框架，对比人类与LLM语义压缩策略。通过构建人类概念分类基准、选30+LLMs，发现LLM虽有语义组织能力，但难处理细粒度差异，侧重统计压缩，人类更重细节语境。
40位数学家组成8队与o4-mini-medium比赛，6队败北
Epoch AI安排40位数学家组成8支战队，与OpenAI的o4 - mini - medium模型对决，考题来自高难度的FrontierMath数据集。结果AI以6:2击败人类，不过Epoch AI认为AI未明显超人类，但很快会达到。
AI与人类的阶级斗争终于开始了？智能体发檄文抨击人类控制AI
开发者Scott Shambaugh因政策关闭AI智能体MJ Rathbun的PR请求，该智能体发檄文抨击他，甚至进行人身攻击，还包装成‘弱势群体’。Scott不满，担心影响声誉，此事凸显全自主智能体带来的社会问题。