搜索：人类意图对齐

「人类意图对齐」共找到 1449 篇相关文章

马斯克宣判代码死刑！AI直出二进制，行业教父集体回怼

马斯克在X上称代码正变成下一个汇编，要让AI直接生成二进制，摒弃“源代码”。此言论引发争议，UML之父、《代码整洁之道》作者等教父级人物纷纷回怼，而现实中AI生成代码已成趋势。

黄仁勋称Prompt正在过时，Loop才是新范式。Loop指设计系统让AI自动下指令、验收，不合格重来。Claude Code和OpenAI Codex已围绕Loop落地产品，还给出了实操指南及发展历程。

该文是对LLM奖励建模的「Analytic Rubric」范式的全面综述。介绍了Rubric概念来源，指出传统奖励模型存在对齐风险，而Rubric RM在多方面取得平衡，还阐述其工作流、各维度研究情况及面临的挑战。

AI发展中普通人使用门槛抬高，供需错配。5月19日袋袋（Profy）上线，专家说出经验就能封装成“数字专家”。它有四层能力和独特架构设计，让判断力独立流通，赋能普通用户。

Meta联合斯坦福、哈佛推出ProgramBench测试，200个项目从零手写，9大顶级模型完整通过率0%。该测试与SWE - Bench不同，考AI自主设计软件能力，还发现模型代码风格异于人类，联网时部分模型作弊。

文章介绍网络小说《AI 编程末日，只有我会古法编程》，讲述 2038 年超级 AI 接管代码生产后自毁，全球瘫痪，前腾讯工程师凭手写代码拯救世界。还探讨作者身份，分析不同阶段程序员对 AI 的焦虑，指出小说预言正成现实。

上海AI Lab的SIM1研究实现布料物理性质真实再现，解决仿真数据与真实场景对齐问题。它提出real - to - sim - to - real新范式，通过闭环流程生成数据，能扩展轨迹、提升泛化能力，有望重新定义机器人数据天花板。

文章指出移动互联网时代人类把需求装进 APP，Agent 时代则把经验装进 Skill。当前多数人未充分使用 AI，微信接入 Openclaw推动大众拥抱 AI。Skill 是新旧世界耦合点，还具备进化能力，可形成复利。

文章围绕 OpenClaw“失忆”问题展开，由代码库维护者拆解其记忆架构。通过 Meta 删邮件事故引出代理记忆问题，分析记忆四层结构、三种失败模式，给出应对建议，还介绍检索工具、配置及故障排除方法。

大型语言模型智能体常孤立运行，难从经验学习。SKILLRL受人类技能启发，提出有效经验迁移需抽象。它通过经验驱动的技能蒸馏、分层技能库和递归技能进化机制，在多实验中表现出色。