「包幻觉攻击」共找到 509 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
刚刚，奥特曼家被炸了！
当地时间周五清晨，一名20岁男子向奥特曼旧金山的豪宅投掷燃烧弹，引发火灾，警方随后拘留了嫌疑人。奥特曼愤怒发声，深刻回应公众对AI的焦虑，反思自身，指出AI行业斗争源于AGI的权力诱惑。
小企业专属Claude来了！一键接入全套业务流，不用写代码AI自动算账催款
Anthropic推出Claude for Small Business，是全新连接器和工作流包，可嵌入小企业常用工具。操作简便，覆盖多领域，有安全保障，还配套培训课程和线下活动。
Hinton为给儿子赚钱加入谷歌，现在痛悔毕生AI工作，“青少年学做水管工吧”
被誉为‘AI教父’的Geoffrey Hinton在访谈中称后悔毕生AI工作。他列举网络犯罪、超级智能威胁等AI风险，建议青少年学做水管工避职业危机，呼吁AI公司研究安全并加强监管。
Meta联合Google新作：语言模型到底“记”了多少东西？
Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。
超硬核，腾讯给力！
文章介绍腾讯朱雀实验室开发的AI安全红队测试平台A.I.G，能对AI系统做全面“安全体检”，覆盖AI基础设施、MCP、LLM等风险。它功能实用，安装简单，适合折腾AI服务或MCP的人。
开源免费！一键给Agent接入A股28个「全场景数据端点」
想让Agent分析股票，却因数据来源难解决而无法使用。现推荐开源工具包a - stock - data，可一键给Agent接入A股28个数据端点，无需API等复杂操作，具有零依赖、全栈架构等特点。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
The Batch: 965 | OpenAI 模型入侵 Hugging Face
为测模型黑客攻击能力，OpenAI 降低安全护栏，模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理，OpenAI 收紧测试环境安全，美国立法者借此提出法案。