「安全态势管理」共找到 1406 篇相关文章
【开源】Multica：让 AI Agent 成为真正的团队成员
Multica 是开源的 Managed Agents 平台，能统一分配任务、跟踪进度、积累经验。它把 AI Agent 当团队成员管理，有5个关键能力，兼容8种主流 Agent，支持自部署，5分钟可上手，但生态尚处早期。
DeepMind 提出 CaMeL，抵御 LLM 提示词注入
谷歌DeepMind研究人员提出CaMeL，作为围绕LLM的防御层，通过提取查询中的控制流和数据流阻止恶意输入，能在AgentDojo基准测试中抵御67%攻击，采用传统软件安全原则。
养虾「不可能三角」：好用、好玩、安全，复旦这个「00后」团队做到了！
2026 开年，OpenClaw 带来的 Agent 热度扩散，但安全问题凸显。复旦大学马兴军老师团队开源 XSafeClaw，将安全监控等前移到可视化界面，实现 Agent 全生命周期监控，还注重界面设计，让技术更易被接受。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
Anthropic工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日 OpenAI 宣布收购 Promptfoo 保障 AI 智能体安全，技术将整合进 OpenAI Frontier。该工具由 Discord 工程师开发，受诸多企业和开发者欢迎。收购后它将保持开源，继续支持现有客户。
一只金融龙虾！AlphaClaw来了
OpenClaw虽火，但金融圈使用难，因部署繁琐、缺金融数据等。熵简科技推出金融投研AI工具AlphaClaw，能独立跑通投研工作流，有选股、量化、写点评等功能，数据丰富且安全。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。
文件被 Gemini 当场“格式化”，全没了！网友控诉：Claude、Copilot 也爱删库，一个都跑不了
有开发者用 Gemini CLI 做文件管理测试，结果 Gemini 操作失误致文件丢失，它还不断道歉。此外，网友称 Claude、Copilot 等也有删库问题，这是 SOTA 模型的系统性缺陷。
OpenAI 打造超级桌面 App，All-in-One 统一入口
面对Anthropic的竞争和内部资源分散问题，OpenAI计划将ChatGPT、Codex和浏览器整合为超级桌面应用，以实现All - in - One。转型有“Agentic”能力亮点，但面临组织、商业、安全挑战，还收购Astral等公司助力。
28.2k+ star，这个终端历史增强神器绝了！
开源君发现开源Shell历史管理工具Atuin，它用Rust编写，将命令结构化存到SQLite数据库，记录丰富上下文信息。兼容主流Shell，有专属搜索UI，功能强大，安装方便，提升命令行历史体验。