「实例无关攻击」共找到 248 篇相关文章
大模型系统提示词逆向（2）—— Cursor
作者研究大模型提示词注入时，用简单提示词“骗”出 Cursor 系统提示词。文中分析提示词生效原理、对 Cursor 有效的原因，还提及提示词泄露的安全问题及开发者应对建议。
美国解除Claude禁令，Fable 5与Mythos 5即将恢复访问
美国商务部解除针对Claude Fable 5和Claude Mythos 5的出口管制，Anthropic将恢复两款模型访问权限。此前因安全担忧模型被限制，政策逐步松动后现整体解禁，Anthropic还发布了Claude Sonnet 5。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。
LLM「拒绝回答」难题有救了！最新研究让AI学会人情世故 | COLM'25
最新研究发现模型规模和通用语言能力与处理敏感内容判断能力无直接关联，开源模型表现不错。通过提出的训练方法，在非推理和推理型模型上缓解过度拒绝问题，提升AI实用性和可靠性。
「AI黑客」来袭，Agentic AI如何成为新守护者？
AI 发展带来网络安全新威胁，如生成式 AI 诈骗、深度伪造等。业内共识是以 AI 对抗 AI，有模型防护、行业应用、政府协作三类尝试。青藤云安全推出全栈式安全智能体「无相」，革新安全思维。
豪掷30亿美元，OpenAI史上最大收购案！
彭博爆料OpenAI将豪掷30亿美元吞并AI编程工具Windsurf，这是其史上最大规模收购。Windsurf因模型无关性设计等优势脱颖而出，此次收购或重塑AI编程市场格局。
OpenAI Astra发布在即，全自动网络攻防能力已突破天际！
OpenAI即将发布的模型Astra，在内部评测中获ExploitBench满分，还发现两个零日漏洞。它能力远超上一代GPT - 5.6 Sol且更听话。不过为安全考虑，OpenAI部署监控，还放慢其研究速度。
传奇黑客首次造出“透明芯片”，从硬件到代码全部公开可验证
8月初第34届Defcon黑客大会，主办方发放美籍华裔黑客黄欣国设计的徽章，核心是开源微控制器Baochip - 1x。该芯片从设计到制造全开放可验证，用红外原位检测，还集成硬件加固手段，安全性能对标商用元件。
重磅！华为何庭波正式提出τ缩放定律，晶体管密度直指1.4纳米，麒麟2026首发验证
2026年，华为何庭波提出τ缩放定律，主张将时间常数τ作为半导体演进首要优化目标。该定律在手机端和AI数据中心验证有效，还涉及产业结构变化，但仍有工具链、工艺变异等问题待解。
刚刚，Anthropic官方Harness被LangChain悄悄开源了~
上周，Anthropic发布官方Harness：Claude Managed Agents，但它闭源。LangChain则发布Deep Agents Deploy的Beta版本，是开源、模型无关的Agent框架，可用于生产环境，部署步骤被打包成一个命令。