搜索：人类偏好对齐

「人类偏好对齐」共找到 1411 篇相关文章

具身智能体主动迎战对抗攻击，清华团队提出主动防御框架

面对对抗攻击，现有防御方法多为‘被动防守’，遇上未知或自适应攻击时效果衰减。清华朱军团队在TPMAI 2025中提出主动防御框架REIN-EAD，通过与环境交互实现‘感知—决策—行动’一体化，实验效果佳。

2025年IMO赛场，顶尖大模型起初表现不佳后有突破。蚂蚁AWorld项目团队6小时复现并开源DeepMind解题结果，给出可一键运行系统。AWorld证明多智能体协同优势，还介绍复现思路、核心优势及体验方式。

LATE CHECKOUT CEO认为Claude Code将带来软件行业变革，它驯服终端，让自然交互成趋势，会催生新机遇和超级用户，未来软件易用性价值更高，技术将适应人类语言。

天津大学联合清华和卡迪夫大学推出RESCUE系统，把「大脑感知 - 决策 - 行动」循环搬进电脑，让数百虚拟人在线逃生。该系统能实时呈现地形等信息，还能标记身体碰撞力，可用于公共安全场景演练。

美国发育生物学家Michael Levin探讨意识与自我组装关系，强调意识是连续谱系。他从生物自我组装过程、意识与身份特性等多方面阐述，还呼吁用开放视角理解意识本质，并提出研究方向。

当地时间7月24日，菲尔兹奖得主陶哲轩在2026年国际数学家大会上发表演讲，指出AI参与数学研究，或使数学站在类似历史节点，研究方式和价值体系受挑战，还探讨了AI对数学研究各方面的影响及应对方向。

NVIDIA开源ProtoMotions3框架，用经典自回归预测和物理仿真，让高级行为涌现。它能助力机器人多方面学习，有望降低人形机器人开发门槛，虽处研究阶段，但提出新思路。

AI圈神秘领袖Ilya在Instagram上传画，画面是「思考者」踩在芯片Die Shot上，引发全网解读。同一时间，OpenAI公布数学成果、升级Codex，还传准备秘密提交IPO招股文件，引发新一轮狂欢。

北大王立威团队构建基于 LLM 的框架，聚焦 Gilbert - Pollak 猜想，将二维平面斯坦纳比从 0.824 改进到 0.8559。该进展被陶哲轩收录，工作已被 ICML 2026 接收，代码和证明均已开源。

Block CEO Jack Dorsey 认为传统公司层级制度在 AI 时代已无必要，AI 可承担协调等功能。Block 以 AI 为中心重建公司，构建两个世界模型，搭建四层架构，裁员 40%，重新定义人员角色和 CEO 工作。