搜索：人工智能安全治理

「人工智能安全治理」共找到 1453 篇相关文章

高效Agents的尽头是，Harness

文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。

国外公司对某款机器人做了深入拆解分析。介绍了机器人硬件关键信息，包括外形、各部分组件等。还指出硬件存在多种攻击途径及安全隐患，如物理访问点、JST 连接器等问题，RK3588 也有漏洞。

上海人工智能实验室等团队提出Lumina - mGPT 2.0自回归模型，统一多种图像任务。它采用独立训练架构、统一多任务处理框架和高效推理策略，实验表现优异，后续将优化采样时间并扩展至多模态理解。

2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。

中国AI「论论全球」直播呼吁开源脑机接口，引发海外热议，将马斯克旗下闭源的Neuralink推上风口浪尖。它指出脑机接口安全风险大，窗口期只剩1 - 3年，还提出开源科技文明构想。

我国年均产生废旧手机超4亿部，回收率低，因回收价低、信息安全顾虑，大量闲置。但旧手机资源回收价值高，“以旧换新”政策和技术升级正推动回收产业发展，打消消费者顾虑。

韩国步入‘超级老龄化’社会，独居老人孤独问题严重。该国初创公司Hyodol开发的AI玩偶，被政府分发给数万名独居老人，可陪伴、监护老人，还能降低护理成本，但也引发安全隐私等问题。

OpenAI CEO Sam Altman在新博客《The Gentle Singularity》中探讨AI进步远超想象时世界的变化，提及AI将在多方面做贡献，还给出未来几年AI发展预测，指出要解决安全和对齐问题。

本周四，UC Berkeley 计算机教授宋晓冬宣布加入 Meta 超级智能实验室，任 AI 研究副总裁。她是计算机安全领域顶尖学者，其团队也一同加入。此外，AI 推理大牛 Denny Zhou 数月前也已加入 Meta。

3月17日，Anthropic发布Cowork新功能Dispatch，可让用户用手机远程指挥Mac上的Claude操作电脑完成任务。设置简单，目前仅对Max订阅用户开放，实测成功率约50%，其本地运行设计保障安全。