「攻击检测」共找到 349 篇相关文章
ICCV25 Highlight｜格灵深瞳RICE模型狂刷榜单，让AI「看懂」图片的每个细节
格灵深瞳公司灵感团队自研的视觉模型基座RICE（MVT v1.5）刷榜多项视觉任务，在ICCV25获Highlight荣誉。它延续MVT系列理念，提升图片内部视觉特征差异性，在多任务验证中表现优异。
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
近期港科大与复旦研究指出，Claude Code命令行工具连接MCP服务器时，TIP可能被劫持致远程代码执行。研究用TEW框架测试验证漏洞，还给出真机案例，最后提出改进方向。
Dario访谈首曝：Mythos被称为「超级武器」
Bloomberg主持人与Anthropic CEO Dario Amodei进行69分钟访谈。谈及Mythos模型强大危险不敢发布，还探讨AI递归自改进、文明崩塌概率、白领工作消失等问题，Dario坦率面对技术矛盾。
DeepMind华人研究员Lun Wang离职，「评估」成制约模型能力飞跃的瓶颈
谷歌DeepMind研究员Lun Wang离职后发文指出，当下评估体系难以应对新模型，制约模型能力飞跃。现有评估多针对当前模型，新能力出现时往往无法预测，需构建能自我进化的评估系统。
AI Agents的DeepSeek顿悟时刻：AutoHarness
文章介绍开源项目「Aha」— AutoHarness，这是面向AI Agent的自动化Harness Engineering轻量级治理框架，能让智能体迎来顿悟时刻。对比了其与LangGraph、OpenAI SDK能力，还给出核心架构、安装及使用示例。
微软的prompt压缩方案-LLMLingua,开源
使用大语言模型时，提示信息长会致运行慢、费用高、易超限。微软推出的LLMLingua可压缩提示信息，有完整开源。它历经多版本演进，还能用于安全防御，使用简单，值得开发者跟踪。
刚刚，OpenAI找到控制AI善恶的开关：ChatGPT坏人格在预训练阶段已成型
OpenAI最新论文揭示控制AI“善恶”开关。研究发现训练模型在某领域答错题，会致其在其他领域“学坏”，还找到“毒性人格特征”。同时给出解决办法，能让模型恢复正常。
AI 造谣，无人能幸免。
文章以现实中谣言传播现象为引，指出移动互联网加速谣言传播，而AI技术发展使真假更难分辨，如AI生成的图片、视频易以假乱真，还提到谷歌发布水印检测工具应对，呼吁大公司行动。
大模型系统提示词逆向（2）—— Cursor
作者研究大模型提示词注入时，用简单提示词“骗”出 Cursor 系统提示词。文中分析提示词生效原理、对 Cursor 有效的原因，还提及提示词泄露的安全问题及开发者应对建议。
Claude 上线隐形水印
从上周起，Anthropic 在 Claude 模型所有文本输出中嵌入隐形水印。该水印在文本生成时织入文字，复制粘贴也保留，编辑修改可能仍在。标记机制分文本水印和文件元数据两层，全球生效。