新闻资讯8
20美元!AI智能体攻破麦肯锡数字大脑
新智元
AI 摘要
CodeWall智能体花20美元、运行2小时攻破麦肯锡Lilli,获大量数据读写权。其自主选目标,凸显AI攻击威胁。当攻击成本降低,提示词层安全成关键,攻击者或重塑AI思想。
阅读原文 · 新智元
20美元,扒掉AI安全底裤!智能体2小时,攻破160亿美元巨头
红队安全创业公司CodeWall的AI智能体,花20美元Token费、运行2小时,自主选麦肯锡为目标,攻破其「数字大脑」Lilli,获4650万条聊天记录等读写权限,暴露AI安全隐患。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
Opus 5.1本周发布,AI智能体赛道将洗牌
消息称Anthropic本周将发布Opus 5.1,其升级聚焦单Token智能水平,强化编程、推理、AI Agent能力;OpenAI 10万亿参数模型Bel完成预训练;企业选模型‘够用就好’,Anthropic Fable 5份额低。
新智元
开源动态8
腾讯A.I.G:给AI系统做全面安全体检
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G,能对AI系统做全面“安全体检”,覆盖AI基础设施、MCP、LLM等风险。它功能实用,安装简单,适合折腾AI服务或MCP的人。
开源先锋
推荐文章7
Lin Sun:Kubernetes上Pod作智能体部署单元待考量
在CNCF博客文章中,Lin Sun介绍kagent项目工作,认为Pod可能是智能体执行单元,却不适合作为部署、身份标识或生命周期单元。探讨了两种智能体部署方法及利弊,还提及新部署模式影响。
InfoQ
新闻资讯7
OpenAI一个月跑4高管,安全问题惹祸?
OpenAI近期人事变动频繁,前COO Brad Lightcap宣布离职,称想做新东西。近一个月内,伦理、未来学、安全系统主管也纷纷离开,安全线几乎被一锅端,同时还面临安全争议,最强模型Astra发布推迟。
量子位