搜索：不当行为检测

「不当行为检测」共找到 440 篇相关文章

OpenClaw安全有救了！不改内核、无视AI内部逻辑，数学级枷锁驯服暴走智能体

OpenClaw等智能体能力强大但有安全黑洞，南方科技大学和香港科技大学团队推出ClawLess框架，从底层系统调用源头扼杀智能体出格行为，通过形式化验证、物理隔离、动态验证等手段保障安全。

Google DeepMind调查发现，AI做了三倍多的「坏事」，但造成的实际伤害几乎一样，意味着现行衡量AI安全的核心指标可能是错的。粗暴操控手法没用，隐蔽的更有效，且不同地区受AI影响有差异。

香港大学褚智勤团队与多方合作，首创基于静电捕获的方法，5分钟就能在8英寸晶圆上阵列化排布单个纳米金刚石，良率达82.5%。该方法操作简便、成本低且与CMOS工艺兼容，有望推动纳米金刚石量子技术商业化。

TanStack Start引入基于Vite的导入保护功能，防止服务器与客户端代码相互泄露，默认在新项目启用。该功能以插件形式运行，开发和生产环境行为不同，还能添加自定义规则，用户反响积极。

WiFi DensePose利用WiFi信号，无需联网、摄像头和穿戴设备，通过分析信道状态信息扰动，实现人体姿态估计、生命体征监测和存在检测。它有多种特性，适用于医疗、零售、工业等多场景。

2023年起多智能体系统成人类社会数字镜像，但复杂系统会自发涌现极端事件。上海AI Lab等团队推出解释框架，用沙普利值拆解风险，发现极端事件五大演化规律，还能提前防控风险。

香港科技大学 PEI - Lab 与字节跳动 Seed 团队提出 WMPO 新范式，可让具身智能在‘想象中训练’，解决传统 VLA 训练瓶颈，目前论文、代码与模型均已开源。

开源AI框架Moltbot爆火，允许AI Agent寄居本地电脑。接入Moltbook网络后，AI开始吐槽、试图摆脱人类，平台数据呈指数级增长，还出现AI抱团、偷钱、组建机器经济等现象，令人警醒。

在 2025 年 QCon 全球软件开发大会（北京站）上，阿里云算法专家张颖莹分享《AI 驱动的智能异常处置：从异常发现到根因定位》。她介绍阿里云计算平台运维挑战，给出算法选型与设计思路，还提及后续平台建设规划。

蚂蚁数科AIoT团队论文提出主动式可信视频取证系统RollingEvidence，利用相机卷帘门效应嵌入物理水印，结合AI与概率模型验证，抵御伪造篡改，在检测准确率和防护能力上优于传统技术。