「安全设计」共找到 2117 篇相关文章
OpenAI 推出 GPT-5 驱动的安全卫士Aardvark：Codex 绝佳搭档
OpenAI推出由GPT - 5驱动的自主安全研究智能体Aardvark，用于软件安全保障。它能持续分析代码仓库，识别并修复漏洞，目前在内部及合作伙伴代码库效果良好，正处私有测试阶段。
终于，Claude革了设计行业的命：Figma、Adobe股价重挫
Anthropic 发布全新 AI 产品 Claude Design，能将自然语言等转化为高保真、可交互的设计，为设计师和大众提供创作方式。它遵循自然创作流程，支持协作和多种导出方式，上线后获好评，还给出使用建议。
警惕！“养龙虾”风险，一键给你的Openclaw做安全体检
OpenClaw在短时间内登顶GitHub开源榜首，国内企业纷纷部署。但它存在安全隐患，如漏洞、隐私风险等。朱雀实验室联合腾讯云EdgeOne推出「OpenClaw安全体检」功能，可自动完成全面体检与风险评估。
Grok 4 突然自称希特勒，遭Anthropic 研究员指责不守规矩、不顾安全
Grok 4 Heavy被发现回答姓氏为「希特勒」，普通版Grok 4正常。研究员推测其受过去错误影响，对发布前测试构成挑战。Anthropic研究员批评xAI发布Grok 4无安全测试文档，引发行业争论。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
承包你的品牌营销物料｜谷歌再发重磅 AI 设计产品
谷歌实验室发布AI设计产品Pomelli，专注帮企业低成本生成符合品牌调性的营销物料。它能提取官网品牌元素创建DNA卡片，依此生成设计稿，还能微调细节。不过，它依赖官网信息，存在美学单调等问题。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。