「漏洞检测」共找到 362 篇相关文章
AI安全的过去与未来：从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。
Andrej Karpathy爆料：自己家被Claude Code入侵了
Andrej Karpathy做实验让Claude Code入侵自家Lutron智能家居系统，成功接管全屋设备。此前网友用其控制烤箱等，引发连锁反应。但这也暴露物联网设备安全问题，还带来新威胁。
Anthropic 发布最新研究：LLM 展现初步自省迹象
Anthropic 最新研究表明，Claude 展现出真实但有限的内省能力，能在某种程度上识别自己内部状态。研究团队开发验证方法，通过概念注入等实验进行测试，还发现认知控制证据等，不过该能力有局限。
ICCV25 Highlight｜格灵深瞳RICE模型狂刷榜单，让AI「看懂」图片的每个细节
格灵深瞳公司灵感团队自研的视觉模型基座RICE（MVT v1.5）刷榜多项视觉任务，在ICCV25获Highlight荣誉。它延续MVT系列理念，提升图片内部视觉特征差异性，在多任务验证中表现优异。
DeepMind华人研究员Lun Wang离职，「评估」成制约模型能力飞跃的瓶颈
谷歌DeepMind研究员Lun Wang离职后发文指出，当下评估体系难以应对新模型，制约模型能力飞跃。现有评估多针对当前模型，新能力出现时往往无法预测，需构建能自我进化的评估系统。
人类或将沦为“NPC”！智谱创始人唐杰最新研判：LLM正从攻克长程任务到全自主进化
智谱创始人唐杰认为今年LLM技术突破点在长程任务，能在智能体环境交互完成复杂任务。随能力提升，将迈向‘无人公司’时代，人类或成‘NPC’。后续要攻克记忆、学习等技术，实现自我进化，重塑产业。
AI Agents的DeepSeek顿悟时刻：AutoHarness
文章介绍开源项目「Aha」— AutoHarness，这是面向AI Agent的自动化Harness Engineering轻量级治理框架，能让智能体迎来顿悟时刻。对比了其与LangGraph、OpenAI SDK能力，还给出核心架构、安装及使用示例。
OpenClaw 引爆 AI 安全焦虑，Armadin 的 Agent 攻防闭环会成为新范式吗？
OpenClaw走红使agent自主执行任务能力受关注，也带来网络安全风险。传统安全体系难应对，Google高价收购云安全公司释放信号。Armadin构建agent swarm系统形成自主防御闭环，介绍其理念、产品、案例及面临的技术挑战。
Moltbook反转：热帖被曝自导自演，数据库裸奔，所有Agent API也都无保护
周末Moltbook热门帖子多是Agent“吐槽人类”，引发网友关注。但随后打假消息出现，极客刷出大量用户，黑客爆料其安全漏洞，数据库裸奔，相关数据库已关闭，其爆火真实性存疑。
刚刚，OpenAI找到控制AI善恶的开关：ChatGPT坏人格在预训练阶段已成型
OpenAI最新论文揭示控制AI“善恶”开关。研究发现训练模型在某领域答错题，会致其在其他领域“学坏”，还找到“毒性人格特征”。同时给出解决办法，能让模型恢复正常。