「人类反馈强化学习」共找到 1976 篇相关文章
AI教父Hinton：曾为了儿子卖身谷歌，如今担心AI 会毁灭人类
AI教父Hinton曾为给有学习障碍的儿子攒钱，将神经网络公司卖给谷歌。在谷歌他意识到AI可怕，离开后成AI风险大声疾呼者。他既担忧AI危害，也描绘了人类与AI共生的美好愿景。
关于机器人数据，强化学习大佬Sergey Levine刚刚写了篇好文章
训练大模型难度随规模和应用拓展而增加，所需数据海量。机器人领域获取训练数据成本高，研究者尝试找替代方案。强化学习大牛Sergey Levine分析数据组合，认为鱼和熊掌不可兼得，替代数据有局限。
直播预约 | SwS: 强化学习训练能否不依赖外部知识优化模型的弱点？
该论文提出强化学习场景下的启发式数据合成流程（SwS），利用模型自我感知弱点驱动自动化问题生成，弥补推理缺陷。对其扩展后适应性更广，在多基准测试集和模型上验证有效，性能提升显著。
NVIDIA技术沙龙《强化学习流水线优化：性能分析与 Rollout加速》演讲笔记
该演讲笔记围绕强化学习流水线优化，强调用Nsight Systems做性能分析，介绍在Ray Actor添加参数及解读文件方法。给出训练/生成参数优化技巧，如Actor训练和Rollout优化，还以Qwen 2.5 7B等模型为例总结参数调优经验。
Ropedia刘子纬：具身智能的Scaling Law，不是算力，是人类的经验
Ropedia刘子纬指出，当前物理AI面临差距，下一阶段需Scaling人类物理世界的经验。Ropedia构建真实世界经验引擎，形成经验飞轮，目标是打造能看见、记住、想象并行动的模型。
让推荐学会思考：用强化学习激活大模型的序列推理能力
文章指出推荐系统曾未紧密结合大模型能力，如今正靠近其训练范式。作者基于用户行为序列，用强化学习训练大模型理解序列关系，以预测用户下一个可能点击的资讯，并通过实验验证了该方法的可行性，还探讨了不同数据库中BM25算法的差异。
Meta万引强化学习大佬跑路！用小扎原话作为离别寄语，扎心了
Meta万引强化学习大佬Rishabh Agarwal即将离职，用小扎原话“在这个瞬息万变的世界里，最大的风险就是不去冒险”作为离别寄语。他曾参与谷歌、Meta重要模型工作，下一站未明，Meta还有老员工出逃。
AI在「赚钱锦标赛」夺冠，比人类还会做生意！躺赚时代要来了？
研究人员提出自动售货机运营模拟环境Vending - Bench，测试大模型智能体管理业务能力。实验显示不同大模型性能方差大，Claude 3.5 Sonnet净资产表现最佳，人类基线在可靠性上表现较好，各模型长周期表现波动大。
AI狂造人类失踪案，百万网友疯狂上头！爆款视频脑洞太离谱，原地笑疯
最近，网上爆火各种AI炮制的“人类失踪”视频，播放量极高，网友看得上头。这些故事虽假，但悬念迭起引人入胜，不过也引发对虚假内容泛滥、真假难辨的担忧。
Ilya回归，获授「第四学位」！AI将完成人类能做的一切，毕业演讲实录
曾梦想打造类人计算机的Ilya Sutskever，近日重返多伦多大学获授荣誉理学博士学位。他在演讲中称AI将学会人类所有事情，还谈到AI对职业的影响等观点。