「安全设计」共找到 2186 篇相关文章
给 OpenClaw 再加一道安全护栏
为保障智能体安全，开发了SKILL，覆盖安装前到运行中的全生命周期。安装前进行九类风险检查，运行时有guard机制，从六个方面看风险，设四层风险分级和输入信任等级，目标是让智能体更可控。
Anthropic 的 Harness 设计：build to delete
Anthropic工程博客发布Harness设计文章，探讨Claude完成全栈应用开发任务。指出单Agent模式问题，采用GAN式对抗、三Agent编排，对比单Agent与多智能体产出，还介绍调教评估者及编排简化，提出Build to Delete原则。
中美安全公司经营对比及原因分析
国内网络安全上市公司财报多显示亏损，而美国同类公司增长与盈利能力强。分析指出，差距源于市场国际化、产品能力和人的因素。国内市场内卷，产品竞争力弱，部分公司决策和态度存在问题。
下一代架构设计工具，说话就能画
next-ai-draw-io是开源项目，用自然语言描述就能让AI自动生成draw.io格式的图。有文字生成图表等核心功能，技术栈用Next.js + AI SDK + react-drawio，支持多提供商，还介绍了安装、部署方法。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。
什么是芯片可测性设计（DFT）技术？
在芯片复杂度增加、测试难度增大的背景下，DFT技术应运而生。它是在芯片设计阶段引入测试逻辑的方法，分功能和制造测试，有扫描链、MBIST、边界扫描等核心技术，能提高测试效率、降低成本、缩短开发周期。
全错！谷歌实锤AI越乖洗脑越深，现行安全指标沦为废纸
Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。
Meta 打造“组织第二大脑”智能体的设计思路
Meta介绍了一款名为"组织第二大脑"的AI智能体设计思路，旨在捕获存储领域专家专业知识，架构结合结构化可审计知识与自改进闭环，无需重训模型即可更新，最初用于合规领域，可推广至多个领域。
当 AI 开始重写负载，数据库该如何重新设计？
AI正改写数据库命题，新数据对象进入生产链路，AI Agent带来更复杂任务链路。在腾讯云数据库DBTalk上，三位研究员从不同方向探讨当负载被AI改写，数据库该如何重新设计，包括内核优化、资源管理和测试测评等方面。
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。