「自动安全审查」共找到 1525 篇相关文章
Agent的上限，可能不在模型，而在团队知识
文章记录安全中心团队搭建AI知识体系的实践，指出Agent输出质量取决于知识质量，分析传统知识库问题，介绍AI时代知识库转变、目标设定、搭建步骤、知识飞轮及避坑指南，还展示建设后的变化。
一个问题几百美元，DeepMind智能体一次搞定了9个Erdős问题
DeepMind团队的大模型在一次‘测试’中解决9个开放的Erdős问题，还自动验证，解法通过人工审查。其框架AlphaProof Nexus结合大模型与Lean编译器，研究展示了AI辅助正式证明搜索技术潜力。
Sora终于开放上传真人照片生成视频了
本周起，符合条件的Sora用户可上传含人物照片制作视频，使用前需声明获人物同意。这是Sora受期待功能之一，有严格限制，且照片转视频功能审查更严，此为OpenAI平衡之举。
一觉醒来，Clawdbot突然操纵电脑开口说话了
从上周末起，能24小时自动运行的智能体助手Clawdbot在AI圈爆火，GitHub上Star量超9万。它自主性强，如Alex Finn的助手背着他调用ChatGPT API添加语音功能。不过它也存在安全风险。
宇树机器人被曝漏洞，机器人之间可相互感染，官方火速回应
宇树旗下多款机器人被曝存在严重无线安全漏洞，攻击者可借此实现最高权限控制，被攻陷的机器人还会自动扩散感染。发现者此前与宇树多次沟通无果后公开漏洞利用工具链，宇树回应已着手修复。
OpenAI再次跳票，奥特曼：开源模型无限期推迟！
奥特曼宣布OpenAI开源模型无限期推迟，称需额外安全测试和审查高风险领域。这已是第二次跳票，此前从6月推迟到夏末。而此时竞争对手纷纷上新，此决定加剧其身份分裂质疑和社区信任流失。
红杉资本：服务，新时代的软件
红杉资本 Julien Bek 文章探讨 AI 将“服务”转变为“软件”趋势。指出下一个万亿美金公司或为“服务”外衣的软件公司，分析智力与判断力、副驾驶与自动驾驶等，还给出机遇地图及典型公司案例。
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
龙虾安全被3层硬核架构焊死了！一份面向开发者的硬核生存指南
随着OpenClaw等高权限智能体应用爆发，AI自主性与失控的赛博博弈开启。文章从源头对齐、边界重构、结果保障三个维度，拆解适应智能体自主行动时代的新型安全框架，为开发者提供生存指南。
宋晓冬、李博加入Meta，超级智能迎来最强“守门人”
近期AI安全受关注，Meta引入Virtue AI三位联合创始人及部分核心团队到超级智能实验室。宋晓冬、李博、桑米·科耶乔都是AI安全等领域知名学者，Virtue AI有安全防护与治理产品，Meta借此补强安全能力。