「防御层」共找到 411 篇相关文章
从实践到原则：为 AI Agent 构建的 Harness Engineering 落地与探索
生成式 AI 进入软件开发核心流程，但 AI 写代码速度超团队控复杂度能力。问题不在模型，而在软件工程系统。Harness Engineering 试图解决此问题，从三层面重新设计工程系统，已有公司实践。
告别“一眼定生死”：Agent-as-a-Judge 开启 AI 评估的下半场
过去两年，LLM-as-a-Judge成评估界“黄金标准”，但面对复杂任务力不从心。论文《A Survey on Agent-as-a-Judge》指出，应从单一的大模型裁判进化为具备行动能力的智能体裁判，还阐述了其优势、发展阶段等。
Anthropic 研究发现：仅需少量污染文档即可对 LLM 实施投毒
Anthropic的Alignment Science团队研究大语言模型训练投毒攻击，实验发现仅250条恶意样本就能植入“后门”，且模型越大攻击越易，还对微调数据集实验，引发讨论。
ACM MM 2025 Oral | 新加坡国立大学提出FractalForensics，基于分形水印的主动深度伪造检测与定位
近些年来，深度伪造主动防御受关注，但现有方法有鲁棒性不稳定等问题。新加坡国立大学等团队提出 FractalForensics 方法，基于分形水印实现主动深度伪造检测与定位，实验效果良好。
一个记忆库，N 个 AI 助手用！mem0 OpenMemory MCP 打通 Cursor/Claude/Windsurf ~
OpenMemory MCP是本地运行的共享记忆系统，基于MCP协议，让多个AI工具共享上下文记忆。它通吃主流MCP客户端，提供标准API，数据私密，有可视化面板且一键安装。官方列举应用场景，虽扩展性待考，但方向值得关注。
1.6K Star！阿里开源 zg：一条命令解决 Agent 时代的本地检索难题。
AI Agent 用 ripgrep 检索常遇难题，因代码命名和自然语言有‘词汇鸿沟’。阿里开源的 zg，将三种搜索能力整合进 CLI 工具，可用于终端与人机交互，还介绍了其安装、建索引及搜索的方法。
RSI离我们有多远？这家中国团队给出了第一梯队的工程解
目前行业探讨大模型的RSI时，常陷入思维定势。EvoMap团队没有盲目跟风，而是提出极具现实意义的工程新路径，构建自进化智能体，让经验在网络流转，还以硬核数据证明其体系有效性。
一篇Loop+Harness的自进化Agent最新综述
本文分享清华关于经验时代，已部署的 Agent 如何将交互轨迹转化为持久能力，从自我进化到元进化的论文。介绍了 Harness、技能、记忆、环境等方面，还提及 RL 与持续学习、元进化智能体等内容。
优步通过实时信号与 Listwise 排序改进餐厅推荐
优步在Uber Eats推荐系统引入实时用户信号与Listwise排序法，用实时信号处理层替换早期特征流水线，还引入Listwise排序优化候选餐厅排序，降低特征漂移，保障系统性能。
Gemini进手机，Android翻身；Gemini进电脑，全网开喷！
谷歌在端侧AI大力尝试，在Android Show I/O Edition发布围绕Gemini Intelligence的新产品与功能，让AI进入系统基础体验。手机端Create My Widget功能亮眼，而Googlebook引发争议。同时苹果iOS 27也有Siri改造新消息。