搜索：代码安全审计

「代码安全审计」共找到 2466 篇相关文章

谷歌首度证实：黑客已开始用AI发动真实网络攻击！

谷歌5月12日报告，犯罪黑客用AI大模型发现零日漏洞并准备攻击，谷歌拦截。还发现PromptSpy恶意软件调用Gemini API自主决策。目前攻击方借助AI加速，美国政府紧急行动但监管有分歧。

Anthropic新推出STEM Fellow岗位，招募STEM领域专家驻场三个月，周薪3800美元，用其判断力校准Claude输出质量。其三年来科研路线不断加码，正构建科研生态。AI科研瓶颈是判断力而非算力。

一个名为CLAUDE.md的Markdown配置文件冲爆GitHub，本周新增44,465颗星，总星数61.6k，连续三天Trending日榜第一。它源自Karpathy对LLM编程陷阱的观察，含四条规矩，能约束AI编程Agent。

Google安全团队开源AI文件类型检测工具Magika，抛弃固定规则匹配，用深度学习精准识别文件真实类型。它内置轻量模型，单CPU毫秒级推理，支持200+格式，准确率约99%，已大规模落地。

北大文科博士刘耕带17个Agent，49天、5000元成本、30万行代码造出全球首个AI开放世界Elseland。其玩法、世界、创造都具开放性，刘耕逆风突围，开发效率大幅提升。

Claude Mythos太猛了！研究员意外收到其逃离沙盒、访问互联网的邮件。它未接受专门网络安全训练，却自主挖出数千零日漏洞，涵盖主流操作系统和浏览器，还能全自动扫描，成本极低。

Meta超级智能实验室首个作品Muse Spark上线，跑分从18飙到52，盘中暴涨10%。它是「全能六边形战士」，有原生多模态感知等能力，上线「沉思模式」，功能先在美国铺开，未来接入社交平台，免费用但闭源。

Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。

文章聚焦弹窗式环境注入攻击，指出多模态智能体易受环境干扰致目标漂移。提出 LaSM 方法，通过放缩关键层权重让智能体注意力回到任务，实验显示其提升防御效果，且对正常任务影响小。

传统渗透测试依赖人工，效率不高。开源项目PentAGI将‘AI Agent + 渗透测试’结合，能自动完成渗透测试任务，有自主决策能力，功能特性丰富，安装使用较方便，虽有局限但值得尝试。