「对齐风险」共找到 728 篇相关文章
ICLR 2026 Workshop二轮征稿开启：聚焦终身智能体的学习、对齐、演化
人工智能进入转折点，AI Agent 崛起但存在瓶颈。ICLR 2026 会议期间的 Lifelong Agent Workshop 将深入探讨相关问题，推动终身智能体研究范式，现开启二轮征稿。
CoT 之后，CoF 如何让帧间逻辑从「隐式对齐」变成「显式思考」？
CoT 虽提升语言模型推理能力，但在 C 端场景有局限，且被质疑并非真实推理。视觉领域提出 CoF 概念，Google DeepMind 团队引入理论，让视频模型通过帧链推理提升帧间一致性，还具强大泛化能力。
卢宗青团队新作：人类先验打底，统一动作对齐，通用机器人模型正在落地
机器人行业核心问题是让机器在真实世界稳定行动。卢宗青团队论文《Being - H0.5: Scaling Human - Centric Robot Learning for Cross - Embodiment Generalization》给出通用操控路线，系统性解决多形态平台部署问题。
OpenAI Atlas等AI浏览器暴露Web Agent安全风险！南洋理工破解底层机制
OpenAI Atlas等AI浏览器提升网页自动化效率，但使智能爬虫威胁加剧。南洋理工等团队研发的WebCloak，混淆网页结构与语义，打破爬虫技术依赖，为数据安全筑防线，适用于数据敏感场景。
破除AI Agent自主操控风险：万字解读LangGraph“人工干预”机制 ，附零基础实战
随着LLM驱动的Agent从学术走向应用，确保其行为的可靠性、安全性与可控性成关键挑战。文章以LangGraph为例，介绍其人工干预机制的核心原理、四大经典模式及案例实践，助开发者构建可靠、安全的智能代理。
AI又来带货了！字节推出DreamActor-H1自动对齐手势和商品
在电商和数字营销领域，现有框架呈现效果不佳。字节推出DreamActor - H1框架，基于扩散变换器，集成Seaweed - 7B模型，能生成高保真人机交互视频，有效果突破但也存在局限。
Anthropic让9个Claude Agent花5天做出比人类强4倍的对齐成果
Anthropic发表Automated Weak - to - Strong Researcher，用9个并行的Claude Opus Agent组成自动化研究团队，5天就把PGR从人类的0.23提升到0.97，成本约$18,000，证明AI自动化研究可行。
每周产业洞察 | AI音视频模型能力全面嵌入“专业级视听内容”交付，对齐“制作级”
北京AIGC视听产业创新中心位于朝阳区，是朝阳区推动影视制作基地建设举措。由多方参与，首创郎园运营，提供六大服务平台，截至2025年8月汇聚近百家合作伙伴。首创郎园拓展服务能力，项目多地开花。
全网苦等GPT-5，超级对齐团队遗作成重要线索，奥特曼发话「惊喜很多」
AI圈聚焦GPT - 5，相关爆料多但模型未现。奥特曼称有很多惊喜。GPT - 5疑似技术通用验证器源于OpenAI论文，或代表AI发展进入新的架构突破时代。此外，有博主用疑似GPT - 5创作，效果惊人。
编程超越 Gemini 3 Pro？GLM-5 性能实测对齐 Opus 4.6，智谱市值突破1700亿港元
临近春节，智谱AI发布最新旗舰大模型GLM-5，其代码和智能体能力表现出色，在多方面逼近Claude Opus 4.5，性能超Gemini 3 Pro。该模型已开源，依托国产芯片部署，不过受算力限制，将逐步向用户开放。