「智能体安全」共找到 4150 篇相关文章
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
刚刚，DeepMind开源全栈「Deep Research」项目，AI 研究将人人可用
谷歌DeepMind团队开源基于Gemini 2.5的全栈「Deep Research」项目，能让每个人拥有智能研究助手。它可动态搜索、反思结果，以流式传输提供带引用答案，前后端结合，还介绍了特性、原理、技术栈等。
养虾「不可能三角」：好用、好玩、安全，复旦这个「00后」团队做到了！
2026 开年，OpenClaw 带来的 Agent 热度扩散，但安全问题凸显。复旦大学马兴军老师团队开源 XSafeClaw，将安全监控等前移到可视化界面，实现 Agent 全生命周期监控，还注重界面设计，让技术更易被接受。
GitHub 已被各类Agent霸榜，今天挑选5个高star Agent
文章挑选5个GitHub高star Agent项目。如Hermes Agent是开源自改进AI Agent，有自主技能创建等特性；GitNexus是纯浏览器端代码智能工具；Shannon是白盒AI渗透测试工具等。
刚刚，Claude 又杀死了所有 todo 工具
Claude 可直接操作 iOS 提醒事项，只需告知任务，它会申请权限并设定日程。作者认为从现在起，所有 todo 软件都可‘去死’，Claude 将成智能日程助理，还能查看、管理提醒。
OpenAI的新浏览器实测被吐槽疯了？走“乔布斯风”、挖谷歌骨干，奥特曼就“复制”出个ChatGPT版Chrome？
OpenAI发布全新网页浏览器ChatGPT Atlas，其将ChatGPT置于网页体验核心，有常驻侧边栏助手等功能。虽冲击谷歌，但用户实测反馈不一，且此类智能代理浏览器存在新安全风险。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
一只金融龙虾！AlphaClaw来了
OpenClaw虽火，但金融圈使用难，因部署繁琐、缺金融数据等。熵简科技推出金融投研AI工具AlphaClaw，能独立跑通投研工作流，有选股、量化、写点评等功能，数据丰富且安全。
ICLR史无前例！中国团队站上C位，全球AI顶会首次为它设专场
ICLR宣布由阿里妈妈牵头的「AI for Mechanism Design and Strategic Decision Making」专题研讨会通过评审，这是其首次设聚焦「机制设计与决策智能」的Workshop，众多大咖参与，连接学术与工业。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。