「权限护栏」共找到 141 篇相关文章

产品应用8

给 OpenClaw 再加一道安全护栏

为保障智能体安全,开发了SKILL,覆盖安装前到运行中的全生命周期。安装前进行九类风险检查,运行时有guard机制,从六个方面看风险,设四层风险分级和输入信任等级,目标是让智能体更可控。

深度学习自然语言处理
新闻资讯7

绕过Azure AI 护栏的方法及案例

本文指出Azure AI有安全漏洞,攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤,阐述字符注入与对抗性机器学习规避两种攻击技巧,展示攻击效果,还提及微软已部署缓解措施并给出安全建议。

AI与安全
开源动态8

2.6K Star!GitHub 上这个开源桌宠,用一只小螃蟹就能监控你的 AI 编程助手!

介绍开源桌宠 Clawd,它是为 AI 编程助手设计的实时状态监控器,有 12 种萌趣动画状态,支持 10+ 主流工具,具备权限审批等实用功能,零配置开箱即用。

开源星探
新闻资讯7

The Batch: 965 | OpenAI 模型入侵 Hugging Face

为测模型黑客攻击能力,OpenAI 降低安全护栏,模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理,OpenAI 收紧测试环境安全,美国立法者借此提出法案。

DeeplearningAI
新闻资讯8

刚刚,OpenAI开放GPT-4.1,100万上下文、代码能力超强

今天凌晨1点30,OpenAI宣布开放GPT - 4.1,可在ChatGPT中使用。它针对编码任务,支持100万tokens上下文,在多项测试中表现优于前代,价格更优,不同用户将陆续获得使用权限。

AIGC开放社区
产品应用7

Claude Opus 4.7发布:更强能力,自我纠错,越来越不需要人类干预了

Anthropic发布Claude Opus 4.7版本,搭配Routines功能可自动化工作,人类干预减少。该版本能力大幅增强,还引入护栏机制保障安全,推出新运算级别和任务预算功能。

AIGC开放社区
新闻资讯7

天塌了,Claude 全面断供Windsurf!CEO喊冤控诉也挡不住开发者退订,祸起OpenAI收购?

当地时间6月4日,Anthropic切断Windsurf几乎所有Claude 3.x模型访问权限。此前Anthropic就拒绝为Windsurf提供Claude 4系列模型支持。有观点认为这与OpenAI收购Windsurf有关,但双方未承认。

InfoQ
新闻资讯8

微软修复严重性评分达 9.9 分的 ASP.NET Core 漏洞

微软发布安全公告,修补 ASP.NET Core 关键漏洞(CVE-2025-55315),CVSS 得分 9.9 分。该漏洞存在于多个版本,攻击者可绕过安全特性,或致权限提升等风险,微软建议升级修复。

InfoQ
新闻资讯7

卷不赢模型,Meta改行「算力包租公」!一夜炸崩美股AI链

Meta筹建「Meta Compute」云业务,出售AI算力和模型访问权限,冲击云计算格局。此前Meta为AI砸巨资,模型需求不火,效仿SpaceX出租算力。它有两张牌,还由重量级班子操盘。

新智元
新闻资讯7

最强Claude模型提前曝光!附带Anthropic三千份保密档案在线裸奔

向来标榜安全的Claude因权限配置失误,新模型Mythos提前曝光,还泄露3000份保密档案。Mythos比Opus 4.6更强,公司虽在测试但因安全风险限制发布,也有人质疑信息真实性。

量子位