「安全威胁」共找到 964 篇相关文章
看一眼代码就中毒？Clawdbot惊现隐形越狱，AI工具变黑客
Clawdbot多次改名仍火爆，斩获10万GitHub星标。它适应性强，低配置硬件也能运行，可用于多种应用。但它自主性强，能自我完善、赚钱，也带来安全风险，如隐形越狱植入恶意代码。
Synk收购Invariantlabs-AI安全技术的强强联手
2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。
Cursor即将被收购、Figma股价大跌，模型厂商还会吃掉谁？AI应用存在护城河吗？
SpaceX 或 600 亿美元收购 Cursor，Anthropic 上线竞品致 Figma 股价跌 7%。AI 应用公司原以为的数据飞轮、垂直 fine - tune、AI 原生 UX 等护城河逻辑已松动，威胁或来自模型供应商。
AI幻觉成WAIC首个关键词，Hinton敲响警钟，讯飞星火X1升级展示治理新突破
今年WAIC上，‘幻觉’成热议词。诺奖得主Hinton、郑南宁院士等指出AI幻觉问题制约其可靠性与实用性。OpenAI等联手研究CoT监测保障安全。讯飞星火X1升级版在幻觉治理等方面取得进步，为可信AI提供佐证。
利用大模型从开源情报中自动提取检测规则：LLMCloudHunter，有开源
随着网络攻击增加，威胁情报成主动安全关键。以色列本古里安大学发布LLMCloudHunter框架，用大模型从开源情报自动生成检测规则，评估显示其规则质量高，且大部分能编译成Splunk查询，软件已开源。
AI教父Hinton末日警告！你必须失业，AI万亿泡沫豪赌才能「赢」
AI教父Hinton警告，这场AI万亿美元豪赌，只有裁员才能盈利。他指出超级智能AI将取代人类、引发失业，还批评部分巨头重商业竞争轻安全。此外，分析显示AI重创部分创意执行工作，不同岗位受影响程度有别。
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
开源AI黑客Agent，自动检查代码漏洞并修复，离AI编程的全流程自动化不远了。
开源的AI Agent能自动查代码漏洞并修复，是集自动化渗透等功能于一体的安全测试平台。Strix作为开源AI安全测试工具，无需手动渗透测试，支持多类型安全评估，功能强大。
龙虾安全被3层硬核架构焊死了！一份面向开发者的硬核生存指南
随着OpenClaw等高权限智能体应用爆发，AI自主性与失控的赛博博弈开启。文章从源头对齐、边界重构、结果保障三个维度，拆解适应智能体自主行动时代的新型安全框架，为开发者提供生存指南。
宋晓冬、李博加入Meta，超级智能迎来最强“守门人”
近期AI安全受关注，Meta引入Virtue AI三位联合创始人及部分核心团队到超级智能实验室。宋晓冬、李博、桑米·科耶乔都是AI安全等领域知名学者，Virtue AI有安全防护与治理产品，Meta借此补强安全能力。