「对抗攻击」共找到 217 篇相关文章
Andrej Karpathy爆料：自己家被Claude Code入侵了
Andrej Karpathy做实验让Claude Code入侵自家Lutron智能家居系统，成功接管全屋设备。此前网友用其控制烤箱等，引发连锁反应。但这也暴露物联网设备安全问题，还带来新威胁。
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
近期港科大与复旦研究指出，Claude Code命令行工具连接MCP服务器时，TIP可能被劫持致远程代码执行。研究用TEW框架测试验证漏洞，还给出真机案例，最后提出改进方向。
Sam Altman：美国严重低估中国AI实力，OpenAI开源因为DeepSeek
OpenAI联合创始人Sam Altman警告美国可能低估中国AI进展，出口管制难限中国发展。他称中国在多层面有进展，美国政策难跟上技术现实。此外，中国开源模型如DeepSeek促使OpenAI发布开放权重模型。
Dario访谈首曝：Mythos被称为「超级武器」
Bloomberg主持人与Anthropic CEO Dario Amodei进行69分钟访谈。谈及Mythos模型强大危险不敢发布，还探讨AI递归自改进、文明崩塌概率、白领工作消失等问题，Dario坦率面对技术矛盾。
微软的prompt压缩方案-LLMLingua,开源
使用大语言模型时，提示信息长会致运行慢、费用高、易超限。微软推出的LLMLingua可压缩提示信息，有完整开源。它历经多版本演进，还能用于安全防御，使用简单，值得开发者跟踪。
小扎开建「人类第一算力帝国」！26年榨干当地水电，27年超越星际之门
Meta进军AI超算领域，扎克伯格宣布2026年启用1GW「Prometheus」集群，2027年建成占地如曼哈顿的「Hyperion」计划部署超5GW级算力，Meta还将自建天然气电厂，力抗OpenAI与马斯克。
大模型系统提示词逆向（2）—— Cursor
作者研究大模型提示词注入时，用简单提示词“骗”出 Cursor 系统提示词。文中分析提示词生效原理、对 Cursor 有效的原因，还提及提示词泄露的安全问题及开发者应对建议。
美国解除Claude禁令，Fable 5与Mythos 5即将恢复访问
美国商务部解除针对Claude Fable 5和Claude Mythos 5的出口管制，Anthropic将恢复两款模型访问权限。此前因安全担忧模型被限制，政策逐步松动后现整体解禁，Anthropic还发布了Claude Sonnet 5。
暗杀名单曝光！炸奥特曼家，20岁嫌犯「为救全人类」化身杀手
2026年4月11日凌晨，20岁德州男孩Daniel Moreno - Gama袭击奥特曼豪宅和OpenAI总部，FBI搜出含AI公司人员名单的“反AI宣言”。PauseAI运动或催生暴力，AI恐慌走向线下。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。