搜索：人类反馈强化学习

「人类反馈强化学习」共找到 1979 篇相关文章

字节Seed新作：模型合并如何改变大模型预训练范式

字节跳动Seed团队在arXiv发表论文，提出预训练模型平均（PMA）技术。该技术将模型合并引入预训练阶段，可提升性能、预测衰减阶段表现，还能解决训练问题。不过，高学习率影响和强化学习应用待研究。

文章探讨AI如何像人一样思考与表达。早期自然语言处理受通用语法理论影响，但面对真实语言复杂性存在困难。人类经历第一次认知革命实现思维转变，AI也需足够大规模才能涌现复杂能力，“大”或是智能第一性原理。

昨夜凌晨，Anthropic 突然推出 Claude Sonnet 5，自封“性价比之王”。它重点提升计划制定等能力，价格更低，安全性能提升，但网络安全能力弱于 Opus 4.8 和 Mythos 5。不过用户反馈平淡，Anthropic 面临高端模型受阻和访问控制争议等问题。

文章深入剖析 RAG 技巧与底层代码，从用 Python 基础库构建 RAG 系统，到多种优化方法如上下文增强检索、添加上下文块标题等，还涉及查询改写、重排序等技术，最后介绍了上下文压缩、反馈机制等提升系统效率和质量的方法。

近期网友热议陶哲轩儿子变性一事，实际其儿子2025年宣布选非二元性别身份。此外，父子在SAIR节目对谈AI与科研，陶哲轩认为AI是概率猜测机器，需过滤，还谈及AI不能超人类、应用于真实科研等。

在5G基站功耗高、室内信号衰减成瓶颈的当下，文章探讨6G如何借智能超表面和建筑无线友好性优化室内流量。还分析建筑设计对信号的影响，以及人类移动行为给超表面嵌入建筑信道带来的挑战。

OpenAI首席财务官Sarah Friar透露7月单月收入破10亿美元，因GPT - 5发布和新订阅服务，算力压力大，所以联合投资打造“星际之门”。虽GPT - 5有争议，但订阅用户增长，开发者反馈好。

北大校友Lilian Weng更新博客《Why We Think》，回顾利用测试时计算的研究进展，探讨让模型“思考更久”的方法。文中介绍了思维链、潜变量建模等策略，还提及多种提升生成质量的策略，如并行采样与序列修订，以及强化学习提升推理能力等内容。

Meta超级实验室MSL新论文探索用强化学习微调大语言模型。提出探索迭代（ExIt）法，基于RL自动课程学习，训练仅需单步任务，模型学会多步自我改进。在MLE - bench上，ExIt相对GRPO提升约22%。

北大卢宗青是国内第一视角数据最早押注者和隐空间路线推进者。他认为人类视频是具身智能唯一可规模化的数据路径，创立BeingBeyond走隐空间世界动作模型路线，成本低、推理快，还发布全球首个隐式触觉世界动作模型Being - H0.8。