「超级智能对齐」共找到 3733 篇相关文章
ICCV 2025 | 港科、牛津大学发布AlignGuard，文图生成模型可规模化安全对齐框架
随着文图生成模型广泛应用，其安全防护机制有限。ICCV 2025上，港科、牛津大学推出AlignGuard，是文图生成模型可规模化安全对齐框架，通过生成CoProV2数据集等实现安全对齐，实验效果佳。
规范对齐时代：GPT-5 断层领先，让安全与行为边界更明晰
上海交通大学等团队提出规范对齐概念，构建评测基准 SpecBench 评测 33 个主流模型，发现多数模型有不足。还探索测试时深思方法，如 Align3 能提升规范遵循度，GPT - 5 在规范对齐上断层领先。
具身智能开始进入「下半场」：从会干活到干完活
具身智能正处热门，国内今年上半年赛道融资额高涨。但钱与落地有落差，拉格朗日具身技术自研 Agentic OS，采用分层智能架构处理工程问题。还推动工序重构，制定技能矩阵和排期计划，其团队背景多元，赌让机器人干完活路径。
具身智能的“生命线”：数据基石与未来路径 | GAIR Live 017
雷峰网举办具身智能数据线上论坛，三位嘉宾探讨其从数据采集到闭环学习全过程。指出具身智能数据挑战严峻，分享真机数据稀缺解决方案，认为仿真合成数据是必经之路，还谈及产学协同、数据服务等内容。
机器人新势力估值断层加速，具身智能靠什么穿越风暴？
文章指出机器人新势力估值断层加速，具身智能公司估值复杂，标准难统一。其智能路线收敛，但暂无领先团队。投资上，虽人才被认为处‘价值低谷’，但 VC 要回归商业本质，港股上市规则也引发担忧。
从扫街榜到Robotaxi，空间智能彻底打开了高德的想象空间
这周一，一张神秘海报引发对高德的猜测。11月5日，高德宣布与小鹏合作提供Robotaxi服务。其空间智能形成闭环，比语言模型更接近AGI，还能为Robotaxi提供安全保证，且在多领域有落地应用。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，市场规模爆发式增长，但企业部署面临‘效能黑箱’。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现公开征集起草单位和个人。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
CSDI峰会开启：Agentic AI 落地应用的黄金期，智能系统重塑生产力
2026年AI从大模型迈向智能体，技术底座爬坡，应用层将爆发。Agentic AI降低构建门槛，行业渗透惊人，未来智能体将重塑生产力，竞争焦点转向生态协同。2026 CSDI峰会10月16 - 18日在深圳召开，共探其应用。
AGI真方向？谷歌证明：智能体在自研世界模型，世界模型is all You Need
谷歌DeepMind研究人员表明，通用AI智能体处理复杂长期任务需学习内部世界模型，还证明可从智能体策略提取该模型。此研究成果补充多领域，对AI发展和安全意义重大。