「AI安全审计」共找到 10077 篇相关文章
一觉醒来，Clawdbot突然操纵电脑开口说话了
从上周末起，能24小时自动运行的智能体助手Clawdbot在AI圈爆火，GitHub上Star量超9万。它自主性强，如Alex Finn的助手背着他调用ChatGPT API添加语音功能。不过它也存在安全风险。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
Auto Research时代，47个没有标准答案的任务成了Agent能力必测榜
Einsia AI旗下Navers lab发布Agent Benchmark——Frontier-Eng Bench，让AI在47个多学科交叉的硬核任务中做工程优化，测试其迭代优化能力。研究总结出AI进化规律，初步勾勒接近真实工程循环的AI系统。
同事群里催催催，龙虾自动回回回！刚发布的「飞书龙虾」把我解脱了
飞书在春季发布会升级类龙虾Agent——飞书aily，无需部署，能像助理一样工作。还升级了飞书妙搭Agent和多维表格Agent。实测显示，它们功能强大，能完成复杂任务，且安全可控，将AI转化为业务生产力。
奥特曼马斯克豪言：我们已进入奇点！AGI加速窗口已至
新智元报道，奥特曼和马斯克都认为奇点已至，当下处于AGI加速窗口。OpenAI曾靠资源猛追让Codex逆袭。但AI发展也引发担忧，如人类能否保持理智、安全对齐进展不明等。
谷歌把电脑操作能力塞进Gemini 3.5 Flash！自己看屏幕狂点70轮
谷歌将电脑操作能力Computer Use内置进Gemini 3.5 Flash，该AI能通过看屏幕操作电脑，可执行点击、打字等动作。其覆盖网页、桌面软件和移动端，还加入安全约束机制，在基准测试中表现良好。
Sam Altman与开发者的一小时对话：我们在“梦游般”走向风险，人类经不住Agent诱惑
Sam Altman在与开发者生态交流会上，针对GPT-5写作能力下降问题坦率回应，还发出一系列重磅信号，如警告生物安全风险、披露招聘计划等，并就软件工程、AI Agent等多个话题分享看法。
超700人预约，昆明一门店免费安装！不少线下数码门店迎来大量用户，“小龙虾”火爆出圈！
一款名为OpenClaw的AI智能体因图标是红色卡通龙虾被称为“小龙虾”而火爆。昆明线下数码门店有用户咨询、预约安装，超700人预约。它能自动完成操作，但存在技术门槛和数据安全风险，国家相关部门已发布提示。
从传统编程转向大模型编程
文章指出大模型编程时代，开发者要从‘代码产出者’变为‘文档定义者’，介绍其优势、人+AI结对编程模式，还提及模型工具技巧、开发流程、常见陷阱及应对策略，强调文档驱动和安全合规。
Anthropic 的 Harness 哲学：把 Agent 当牲口，而非宠物
本文分享Anthropic最新两篇博客，介绍其将运维圈“宠物 vs 牲口”哲学用于AI Agent架构设计。旧架构如“宠物”易出问题，新架构脑手分离，把Harness做成可随时重启的“牲口”，降低延迟、提升安全，还提出信任框架。