搜索：超级智能对齐

「超级智能对齐」共找到 3728 篇相关文章

从 IROS 2025谈起，智能机器人何时迎来「GPT式爆发」？ | GAIR Live 019

雷峰网邀请三位嘉宾解码IROS 2025背后具身智能前沿趋势。探讨了IROS现场变化、具身智能认知升级、Sim2Real实用边界、商业落地路径等，还预测具身智能“GPT时刻”或由“World Model+VLA”组合推动。

今年世界人工智能大会上，智能体成主角，AI厂商纷纷布局。文章指出人们对AI大模型期望转变，介绍智能体底层逻辑，涵盖工具使用、推理模型、ReAct框架等，还对比先前尝试，探讨智能体能力层次与未来发展。

近期OpenClaw走红，AI智能体从“能理解、能生成”走向“能执行、能协作”，但企业面临智能体上线条件判断难题。智合标准中心组织起草《企业级AI智能体应用效能评估规范》，现公开征集起草单位与起草人。

本文分享 ACL 2025 最佳论文，指出预训练大模型存在‘抗对齐’的 Elasticity 现象，即对齐微调只是暂时拉伸，后续微调会让其迅速弹回预训练分布。研究量化该概念，用‘压缩理论’刻画对齐并实验验证。

清华和面壁智能团队研究揭示大语言模型进化的致密律，指出为获同等智能，模型参数量呈指数级下降，最大能力密度约每3.5个月翻一番，还探讨模型压缩、边缘智能等内容。

大模型对齐、安全问题是行业大事，Anthropic开源的MSM对齐方法，能将Qwen3 - 32B的agent错位率大幅降低。它先给模型讲规则逻辑再微调，控制精度高，还研究了最佳实践，将改变大模型对齐流程。

2025年秋具身智能赛道火热，特斯拉、英伟达动作不断，数据问题成落地症结。跨维智能贾奎、港中大（深圳）刘桂良探讨突破具身智能学习枷锁的方法，提出Efficiency Law和GS - World世界模型引擎及新学习范式。

论文提出Chain-of-Agents (CoA) 范式，结合多智能体系统与工具集成推理优势。通过多智能体蒸馏和智能体强化学习训练智能体基础模型（AFM），实验显示其在Web和Code任务上达新SOTA，效率、泛化性佳。

2025年夏天，巨头们因Agent的崛起对AI热情高涨，砸钱堆算力的背后是算力供不应求的困境。云计算因其具备极致的规模化、先进的生产工艺、柔性生产、智能管理和生态链接能力，被认为是AI的“超级工厂”。阿里云作为实例，展示了其完整的AI生产体系。

业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。