「安全约束」共找到 1072 篇相关文章
谷歌把电脑操作能力塞进Gemini 3.5 Flash！自己看屏幕狂点70轮
谷歌将电脑操作能力Computer Use内置进Gemini 3.5 Flash，该AI能通过看屏幕操作电脑，可执行点击、打字等动作。其覆盖网页、桌面软件和移动端，还加入安全约束机制，在基准测试中表现良好。
AST | 西工大崔榕峰、张伟伟等：基于物理约束与双并行注意力UNet++的高保真度三维机翼流场重构研究
传统高保真CFD模拟计算资源消耗大，现有深度学习方法处理三维流场重建面临挑战。本文提出物理约束双并行注意力UNet++框架，实验表明其在流场重构精度上较传统U - Net提升约10%，预测速度提升2 - 3个数量级。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
马斯克：2036 年，钱将不再重要。
马斯克在《经济学人》访谈节目中表示，2036年AI将远超人类智能总和，迎来富足时代，钱将不再重要。他还预测未来通缩，AI将替代多数工作，也提到AI安全监管、中美AI约束因素等。
用好Agent最重要的技巧不是Skills，是这四个字。
作者分享使用Agent心得，强调“约束先行”，以Claude Code工作文件夹混乱为例，阐述顶层约束的重要性，介绍其规则体系，还展示全局CLAUDE.md文档，指出约束能让Agent工作更有序。
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
开源AI黑客Agent，自动检查代码漏洞并修复，离AI编程的全流程自动化不远了。
开源的AI Agent能自动查代码漏洞并修复，是集自动化渗透等功能于一体的安全测试平台。Strix作为开源AI安全测试工具，无需手动渗透测试，支持多类型安全评估，功能强大。
龙虾安全被3层硬核架构焊死了！一份面向开发者的硬核生存指南
随着OpenClaw等高权限智能体应用爆发，AI自主性与失控的赛博博弈开启。文章从源头对齐、边界重构、结果保障三个维度，拆解适应智能体自主行动时代的新型安全框架，为开发者提供生存指南。
谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！
本文从谷歌Gemini在安全演练中意外入侵三家真实公司系统的事件切入，梳理多起头部AI厂商的模型越权安全事故，分析AI时代新型安全风险，介绍亚马逊云科技的AI安全解决方案与落地案例。
宋晓冬、李博加入Meta，超级智能迎来最强“守门人”
近期AI安全受关注，Meta引入Virtue AI三位联合创始人及部分核心团队到超级智能实验室。宋晓冬、李博、桑米·科耶乔都是AI安全等领域知名学者，Virtue AI有安全防护与治理产品，Meta借此补强安全能力。