「攻击检测」共找到 349 篇相关文章
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
AI看不到的爱心，成了最棒的AI检测器。
作者以漂浮爱心图检测AI，Gemini 2.5 Pro、GPT - 5等模型均失败。又用噪点鹿视频测试，AI准确率为0%。原因是AI是空间王者、时间瞎子，无“共同命运法则”视觉系统，存在时间盲视。
痛点突破：YOLOv26引入AAttn区域注意力机制，精度提升1.3个百分点
文章介绍YOLOv26引入AAttn区域注意力机制，解决传统机制在复杂场景下的不足。它通过划分特征图区域学习权重，提升检测精度，且实现简单。经实验验证，精度提升显著，还给出实现细节与优化建议。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。
管你模型多大，250份有毒文档统统放倒，Anthropic：LLM比想象中脆弱
Anthropic等联合研究打破传统观念，只需250份恶意文档就能在参数规模从6亿到130亿的LLM中植入后门，且与模型规模及训练数据量无关。研究还测试了特定后门攻击，评估了多种训练配置。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
深谋商业化一骑绝尘！人形机器人中标国网电力，大载重eVTOL即将首飞
深谋科技在今年世界人工智能大会上大放异彩，其融合多模态感知检测的人形机器人中标国网河北电力项目，相关技术将应用于关键研究和装置研制。此外，其大载重eVTOL曜眸MX150E无人机即将首飞量产，有望成低空经济出海冠军。
分割一切并不够，还要3D重建一切，SAM 3D来了
深夜 Meta 重大更新，上线 SAM 3D、SAM 3。SAM 3D 含物体与场景重建、人体形状与姿态估计两模型，能将 2D 图转 3D 重建结果。SAM 3 可检测、分割与跟踪图像视频物体。Meta 开放模型权重与代码，推体验平台。
9.7K Star 把 AI 编码的 token 消耗砍了 16 倍
当前AI编码工具默认读取整个项目文件，token消耗高。code-review-graph项目用Tree-sitter解析代码库成图，追踪改动“爆炸半径”，平均省8.2倍token，技术轻量，还能做社区检测。它揭示AI编码瓶颈在信息输入质量。