「包幻觉攻击」共找到 509 篇相关文章
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
GPT-5.4 发布，OpenClaw的能力要被取代？OpenAI 新模型不仅会自己用电脑，编程能力也拉满了
今天 GPT-5.4 发布，整合推理、编程及原生计算机使用能力。其原生电脑操作能力提升，与 OpenClaw 竞争。还带来工具搜索降成本、减少幻觉，编程能力增强但价格也升级。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
一把Claude Code 的解剖刀
文章介绍用抓包技巧了解Claude Code，还推荐项目claude - trace。它能查看Claude Code系统提示、工具输出等信息，有对话索引功能，采用前后端架构，可助学习构建AI Agent。
Stanford、Meta和Google等发现LLM存在五大天花板，再扩算力已无用
论文《On the Fundamental Limits of LLMs at Scale》指出，LLM性能提升有理论天花板，扩展中会遇幻觉、上下文压缩等五大根本限制，源于计算、信息与学习理论，未来应转向‘有限优化’。
ChatGPT默认模型大升级，GPT-5.5 Instant正式上线：新增记忆来源功能
OpenAI宣布ChatGPT默认模型升级为GPT-5.5 Instant，面向所有用户开放。升级核心是准确性，在高风险领域幻觉内容减少，能力全面提升，回复更简洁。还提升了个性化能力，引入记忆来源功能。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
Claude Skills很重要
作者本想退订Claude，因Anthropic发布Claude Skills改变主意。它是‘能力包’，含SOP、工具和资源，分层加载省上下文窗口。预设Skills可体验，官方开源，模块化设计利于挂载和按需加载，或形成Skills Market。
刚刚，Claude Mythos敲响末日警钟！超级智能已在悬崖，Hassabis深感恐惧
前沿AI已能自主攻击、逃逸，Anthropic因太危险暂不发布Claude Mythos Preview模型。谷歌DeepMind掌门人Hassabis、OpenAI CEO奥特曼均发出警告，虽恐惧AI风险却仍推进开发。
Google | 溯源分析RAG系统错误，提出选择性生成框架，让RAG问答准确率提升10%
Google对RAG系统错误深入分析，引入‘充分上下文’概念，指出幻觉或因上下文不足。构建评估器，提出选择性生成框架，结合多信号决策，实验显示可让RAG问答准确率最高提升10%。