算法论文7

逆强化学习助力大模型对齐

PaperAgent2025-07-30

AI 摘要

文章聚焦逆强化学习视角下的大模型对齐技术，介绍强化学习基础，将LLM生成过程化为MDP，指出模仿学习优化LLM有局限，需神经奖励模型，还探讨多种奖励建模优化方法。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Anthropic发布Claude 5.1，最强能力限少数机构用

9月1日，Anthropic发布Claude Fable 5.1和Claude Mythos 5.1，二者用相同底层模型，区别在安全限制和开放范围。Fable面向订阅用户和企业，Mythos仅向少数审核机构开放，此次还尝试新的开放方式。

据外媒报道，DeepSeek今年前七个月营收约4.75亿，较2025年全年增长近10倍，净亏损收窄，综合毛利率44.6%，API业务毛利率达82.9%。它正磋商500亿二轮融资，筹备明年沪上市，靠优化基建降本，低价策略吸客。

8月25日，Google Cloud发布Gemini Enterprise for Legal面向律所和企业法务团队开放预览。它想解决让模型进入律所现有工作系统，不打乱权限等规则的问题，通过MCP连接系统并继承权限，还组织各方合作。

NovaSilicon发表论文探讨超级智能在芯片领域的运用。随着芯片复杂度提升，传统EDA方法遇瓶颈，论文提出将芯片设计超级智能建模为AI组织，利用LLM等技术，重塑芯片设计行业，实现产业链智能化升级。