「实例无关攻击」共找到 251 篇相关文章
数学家24小时驳回OpenAI攻破的猜想！“AI证对了每句话，但已跟原猜想无关”
OpenAI宣称其下一代AI模型推翻了Connes刚性猜想，第二天堪萨斯大学的J. L. Nielsen就发文回应，指出AI构造的群不满足附加条件，还逐行核对代码指出‘要证什么’有问题，强调人类审查对AI科研结果很关键。
3200+ Cursor 用户被恶意“劫持”！贪图“便宜 API”却惨遭收割， AI 开发者们要小心了
近日，网络安全研究人员标记出三个恶意 npm 软件包，攻击 Cursor 编辑器 macOS 版用户，超 3200 次下载。这些包伪装提供‘最便宜 API’窃取凭据、替换代码，还凸显供应链威胁。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
刚刚，Claude Mythos敲响末日警钟！超级智能已在悬崖，Hassabis深感恐惧
前沿AI已能自主攻击、逃逸，Anthropic因太危险暂不发布Claude Mythos Preview模型。谷歌DeepMind掌门人Hassabis、OpenAI CEO奥特曼均发出警告，虽恐惧AI风险却仍推进开发。
100%开源！吴恩达做了个个人桌面Agent
AI教育大佬吴恩达推出开源项目OpenWorker，这是个个人桌面Agent，能跨工具干活。它主打开放、本地优先、隐私保护和模型无关，目前可在Mac运行，Windows版本待完善。
吴恩达来信：当防护机制出问题时
本周，闭源模型用户意外发动网络攻击，闭源模型因防护机制无法协助防御，开放模型 GLM 5.2 却助力应对。吴恩达认为应重视模型使用的责任，开放模型能让技术更透明安全。
Karpathy力荐必读博客：代码功底，决定AI「开挂」倍数！
Karpathy推荐Atharva博客，指出AI是工程师能力放大器，扎实编程基础搭配精准提示，能借AI打造极致产品。文章还给出用AI开发的策略、战术，以及数据库优化实例。
Anthropic 最强模型 Mythos 发布了，但你暂时用不上
4月7日，Anthropic公布全新前沿模型Claude Mythos Preview，但未开放给公众，而是用于网络安全防御项目Project Glasswing。该模型安全能力强大，能发现大量零日漏洞并编写攻击代码，普通用户短期内难用上。