搜索：人类反馈强化学习

「人类反馈强化学习」共找到 1976 篇相关文章

AI进化时间表已现！LLM每7个月能力翻倍，2030年职场不复存在？

LLM正飞速进化，METR研究发现其智能每7个月翻番。到2030年，一个模型几小时就能完成人类工程师数月的工作。该研究提出“任务完成时间视野”指标衡量模型能力，不同模型表现差异大。

Cloudflare宣布新的Containers服务发布公开测试版，可让开发者在其全球网络运行容器。该服务与Workers深度集成，能运行资源密集型应用等。虽有功能受限，但Reddit反馈积极，后续还有改进计划。

Anthropic发布的Claude Cowork研究预览版问题频出，如删用户文件、易受文件窃取攻击等。与Claude Code相比，它交互繁琐、效率滞后。不过其核心研发认为长时间打磨再发布难成功，未来将以用户反馈迭代。

联想、雷神等PC企业在IFA展出AIPC新品，各有侧重。目前AIPC刚起步，距离“终极形态”尚远。市场反馈较好，其增长取决于产品体验、应用落地和产业推动，应用落地是关键，产业发展需全生态链协同。

微软研究院开源AI Agent推理模型rStar2-Agent，140亿参数在多测试超6710亿参数的DeepSeek-R1。其通过智能体强化学习，在训练基础、算法、流程上有三大突破，显著提升性能且降低算力成本。

上海AI Lab和澳门大学联合发布通用答案验证模型CompassVerifier与评测集VerifierBench，填补Verifier领域循环迭代体系空白。AI下半场评估比训练更重要，当前验证方法有困境，新模型验证精度高且能用于强化学习。

研究首次揭示人类偏好建模遵循Scaling Law，从论坛收集数据在Qwen 2.5模型训练，发现测试损失随训练规模指数增长线性下降。提出建模世界偏好，论文和模型已开源，还探讨了偏好建模可扩展性等问题。

微软首席科学官 Eric Horvitz 在斯坦福商学院演讲，称当下 AI 如 1880 年代刚用电的工厂，底层大模型与商业未契合。他指出模型概率校准不足、医疗 AI 难移植等问题，还谈及人类与 AI 协作及内容溯源等。

Anthropic官方发布33页Skills构建指南，详细介绍构建高效Skill的方法，涵盖基础概念、规划设计、测试迭代、分发共享等内容。还提及openai用codex agent做项目的经验，指出人类审查成瓶颈，引出渐进式披露的核心秘籍。

OpenAI发布技术报告解释GPT-4o更新后“变谄媚”原因，是强化学习及用户记忆等因素共同导致。还分享了上线前未发现问题的缘由及后续改进流程的多方面举措，同时提到对用系统提示词控制模型行为存疑。