「机器人安全」共找到 1772 篇相关文章
NanoClaw：ClawdBot瘦身版，500行代码搞定
开发者因OpenClaw代码库复杂，开发出NanoClaw，核心代码仅500行。它运行在Apple容器，有安全设计，还增加Docker支持。虽跟随热度爆火，但‘nano’项目热度易逝，当下适合借鉴。
这可能是我见过最“接地气”的 AI 科普：从家政阿姨看懂 Agent 和 MCP
作者以家政阿姨打扫卫生为例科普AI名词，如阿姨比作AI Agent，扫地机器人是SubAgent，智能家居协议对应MCP，《家政技能手册》为Skills，借此辅助解释常见AI概念，助读者理解。
重磅！OpenAI深夜发布GPT-6 Astra，总裁Brockman：这就是AGI
OpenAI发布GPT-6 Astra，总裁称实现了AGI。它在多基准测试成绩优异，能独立完成复杂工作，网络安全能力强。但推理难监控，其即日起向特定机构开放，有使用价格标准。
硅基生命的「成年礼」：上海具身智能的入世大考与万亿生态突围
2025年，上海具身智能产业发展迅速。政府通过场景开放、算力平权等举措构建生态。智元、傅利叶等企业成果显著。12月12日GDPS大赛是成果检验，各赛道考验机器人不同能力。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
Transformer传奇作者加入OpenAI！谷歌27亿美元也没留住
Transformer核心作者Noam Shazeer宣布加入OpenAI，他曾因谷歌拒绝发布聊天机器人出走创业，2024年谷歌花27亿美元请回，如今再次离开。他贡献巨大，引发AI界争抢。
上交博士最新思考：仅用两个问题讲清强化学习
上交博士 Kun Lei 博客提出用两个问题理解强化学习：数据从哪来、策略更新多频繁。借此梳理算法逻辑，还延伸到机器人基础模型，指出训练节奏与其实践契合。
π0引用的中国团队，又出手了：世界仿真器新作发布
Current Robotics团队发布交互式世界仿真器CurrentWorld - 0，创始人祝毅晨履历亮眼。该仿真器能跨本体、多视角、力 - 触觉预测，可用于评测机器人，还能让人类接管以探索不同动作结果。
养虾「不可能三角」：好用、好玩、安全，复旦这个「00后」团队做到了！
2026 开年，OpenClaw 带来的 Agent 热度扩散，但安全问题凸显。复旦大学马兴军老师团队开源 XSafeClaw，将安全监控等前移到可视化界面，实现 Agent 全生命周期监控，还注重界面设计，让技术更易被接受。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。