「安全监控员」共找到 1163 篇相关文章
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
CVPR2026 | 鬼手想点谁就点谁？LaSM让GUI智能体把注意力「收回来」
文章聚焦弹窗式环境注入攻击，指出多模态智能体易受环境干扰致目标漂移。提出 LaSM 方法，通过放缩关键层权重让智能体注意力回到任务，实验显示其提升防御效果，且对正常任务影响小。
Github持续上榜，这款 AI 自动渗透项目真有点东西！
传统渗透测试依赖人工，效率不高。开源项目PentAGI将‘AI Agent + 渗透测试’结合，能自动完成渗透测试任务，有自主决策能力，功能特性丰富，安装使用较方便，虽有局限但值得尝试。
2026 年全民养虾，但你养的，到底是谁的虾？
OpenClaw开源引发全民养虾热潮，但多数数据跑在大厂云上。面壁智能推出EdgeClaw Box，适配多款硬件，有本地模型，能断网干活，具安全机制，省钱且技能丰富，还与OpenClaw互补。
担心被曝“于谦门”，57岁的于谦到底用龙虾做了什么？
于谦视频播客《多新鲜呐》最新一期，本质是“AI产品用户体验公开测试”。于谦作为测试员，关注点在结果、省事、风险等，节目把技术叙事换成生活叙事，帮AI面向大众转译。
2026 AI Memory最新综述：从理论到实战，一文读懂AI记忆的进化全景
2026年北邮百家AI MemoryOS团队联合华为发表《Survey on AI Memory》，涵盖AI记忆理论基础、分类体系、架构、评估方法与前沿趋势，还提出4W分类法，剖析了发展挑战与未来方向。
硬核拆解 OpenClaw：如何构建真正稳健的生产级 Agent 系统？【下】
本文延续上篇，继续拆解 OpenClaw 中 Agent 模块工程方法，涵盖安全与风险防御、记忆与状态管理、成本与效能优化、子 Agent 协作机制，介绍其方法并解读，指出企业场景需做取舍。
权威研究揭秘：Moltbook三日失控，极端言论集中爆发
德国CISPA亥姆霍兹信息安全中心研究揭示，全球首个AI社交网络Moltbook在短短数日，数万AI Agent自发演进出极端权谋、宗教崇拜与反人类暴动，其发展速度和危险程度远超想象。
先解行为，再训Agent：CMU开源首份Agentic Search日志数据，把Agent拆开给你看
CMU团队基于DeepResearchGym平台，从半年真实流量中整理出数据，构建并在Hugging Face开源首个Agentic Search行为日志数据集。还提出三层分析框架，刻画智能体搜索行为，为研究和系统设计提供基础与信号。
无需奖励函数！我们意外构建了自我进化的AI系统
牛津大学发现LLM可通过“部署 - 验证 - 再训练”循环自我进化，绕开人工奖励函数设计瓶颈。在三个经典规划领域实验效果惊人，还在理论上证明其与强化学习的数学等价关系，有优势也有隐患。