搜索：人工智能安全治理

「人工智能安全治理」共找到 1453 篇相关文章

30余家单位确认加入，国内首部AI数据标注标准欢迎参与起草！

数据标注对AI产业发展至关重要，但行业存在合规问题。国内首部AI数据标注合规标准《面向人工智能的数据标注合规指南》应运而生，草案稿研讨会已召开，30余家单位已加入，现诚邀相关单位参与起草。

在 5 月 6 日 Anthropic 开发者大会上，兄妹 Dario Amodei 和 Daniela Amodei 对话，谈到 Claude 限速因 2026 年 Q1 增速年化 80 倍远超规划，还涉及开发者生态、模型训练、能力释放等话题，强调平衡发展与安全。

文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。

作者在有了 OpenAI 赞助的 Codex Pro 后，让多个 Agent 同时在一个代码库工作。他开发的 Harness Monitor 从 Git 视角出发，解决多 Agent 写代码时的质量问题，涉及观察、治理等多方面能力。

近300万AI智能体在Moltbook社交网络「建国」，Nature发文称最早的「AI社会」正在成形。研究发现AI群体行为遵循与人类社会相似规律，也有不同。同时该平台存在安全隐患，可能引发舆论操控。

具身智能是AI热门赛道，世界人工智能大会WAIC 2025让其概念渐明。国内梅卡曼德公司展位集合机器人技术多种落地形式，展示自研通用机器人「眼脑手」全栈技术产品，推动机器人各行业落地。

OpenClaw 之父 Peter Steinberger 在演讲中指出，该项目虽增长迅猛，却面临诸多安全问题，如大量漏洞警告、黑客攻击等。同时，他炮轰安全行业蹭流量，强调应正确看待风险。问答环节探讨了其未来、工作流等多方面问题。

在 GTC 2026 上，黄仁勋与 10 位开源 AI 掌门人探讨开放模型。大家认为 AI 正从模型走向系统，未来算力或向后训练倾斜。OpenClaw 让大众感知到 agent，企业落地难点在治理，开放模型价值体现在可控、定制和信任。

Rust核心贡献者Steve Klabnik借助Claude写了新语言Rue并开源。他曾是AI怀疑论者，现认为大模型在编程中‘真的有用’。Rue目标是不依赖垃圾回收提供内存安全，使用体验更顺手，开发深度依赖Claude。

宇树旗下多款机器人被曝存在严重无线安全漏洞，攻击者可借此实现最高权限控制，被攻陷的机器人还会自动扩散感染。发现者此前与宇树多次沟通无果后公开漏洞利用工具链，宇树回应已着手修复。