「攻击风险」共找到 612 篇相关文章
刚刚，Anthropic推出Claude Chrome插件，仅限1000人
Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。
OpenClaw爆火，暴露12类致命隐患！MCP协议安全基准发布 | ICLR
OpenClaw等开源AI Agent项目爆火，MCP协议拓宽其能力也增大攻击面。北京邮电大学团队推出MSB安全基准，揭示MCP各阶段攻击有效，性能强的模型更易受攻击，还提出NRP指标平衡安全与实用性。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
Dario Amodei 达沃斯访谈全记录：AI 的力量与风险
2026 年 1 月 20 日达沃斯论坛，Anthropic CEO Dario Amodei 接受专访，谈及 AI 发展程度、公司定位、中美竞争等多话题。他认为 AI 呈指数增长，一两年内或超人类，同时警告岗位消失、财富差距等风险。
AI 编码效率 x10，Bug 风险也 x10
亚马逊工程师 Joe Mag 分享团队用 Coding Agent 使代码产出效率提 10 倍，但 Bug 风险也放大 10 倍。介绍‘Agentic Coding’工作流，还给出借助 AI 做‘风洞测试’、升级 CI/CD、升级决策和沟通系统等建议。
moltbook爆火背后：人类操控？伪造截图？Karpathy发风险提醒
moltbook是专为AI设的社交平台，超150万个AI Agent活跃。有人认为它是突破，也有人觉得只是娱乐展示。其背后或有人为操纵，还藏风险。Karpathy既肯定其规模，也提醒有网络效应和安全问题。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 博文警告，基于 MCP 构建的 AI 开发工具引入安全漏洞，如凭证泄露等。MCP 发展迅猛但部分实现有隐患，Docker 分析发现广泛漏洞，还提出强化方法应对风险，其他厂商也有类似担忧。
文言文秒杀所有大模型！100%攻击成功，轻松突破安全防线
南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。
开源安全工具 Trivy 遭供应链攻击，引发行业紧急响应
开源漏洞扫描工具 Trivy 遭供应链攻击，恶意版本 v0.69.4 含外传敏感数据代码，通过正常渠道传播。攻击者利用攻破的凭证操控发布流程，影响或扩大，维护团队已采取措施，引发行业对开源工具信任边界的讨论。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。