「安全设计」共找到 2186 篇相关文章
ICLR 2026 | 机器人不够聪明？VLMgineer让大模型自己「发明工具」，从设计到使用全自动
宾夕法尼亚大学研究者提出 VLMgineer，一个全自动工具设计与使用框架，利用视觉语言模型和进化搜索，让机器人自主设计并使用工具。该工作已被 ICLR 2026 接收。实验显示，它在工具设计上优于人类提示和现有 Benchmark 工具。
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
刚刚，Claude Design 发布！网友：将摧毁设计行业……
4月17日，Anthropic发布Claude Design，用刚发布的Claude Opus 4.7驱动，能凭自然语言描述搭设计稿。它有Tweaks和Knobs控件，可自动套用品牌规范，多类用户适用，导出选项全，或改写设计工作流。
能导出 PSD 的 AI 设计工具，出现了
国内 Seede AI 团队发布海外新产品，无需写咒语，填文案信息就能让 AI 搞定排版等。它生成可编辑源文件，适合有内容但不会设计的人，还支持多格式导出，不过不擅长创意生图。
TRAE Work Design 初体验：设计领域的翻译器
作者体验了TRAE Work新上的Design模式，认为它像设计领域的翻译器，能降低中间翻译成本。以产品原型、PPT、公众号头图等为例，展示其优势，指出AI Design降低表达和执行门槛，凸显专业判断力的重要性。
76%程序员依赖AI？代码安全挑战解析
GitHub报告显示76%程序员用AI编程，代码安全成挑战。腾讯等团队建A.S.E评测框架，有项目级代码生成等优势，能评估代码安全、质量与稳定性，未来将扩充功能，邀开发者参与。
吴恩达来信：开放模型，开放执行框架，开放安全
吴恩达团队用闭源模型做安全审查遇阻，后改用 OpenWorker 框架结合开源权重模型 Kimi K3 和 GLM 5.2 取得进展。他认为开放模型和执行框架能带来更安全系统，开源权重模型舆论战虽胜，但立法层面未胜。
开箱即用、本地安全、多 Agent 协同解决方案！
过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。
Cloudflare 通过左移安全实践扩展基础设施即代码
Cloudflare实施基础设施即代码和自动化策略执行，将安全验证前置，消除手动配置错误，在部署前捕捉安全违规。该方案以Terraform等为核心，还解决了采用难题、配置漂移等问题。