「AI安全研究」共找到 10765 篇相关文章
AI驱动的开源攻击框架：HexStrike-AI
HexStrike-AI是安全研究员开发的开源攻击框架，2025年7月起在GitHub免费提供。它基于MCP协议，集成LLM与150多种工具，可自动化渗透测试和漏洞发现。曾被网络犯罪分子利用，能加速攻击流程，展现强适应和并行化能力。
国内AI应用半年报告：App和Web应用月活都在跌，AI搜索需求被验证，百度是DeepSeek流失用户最大接盘手
QuestMobile发布2025年国内AI应用上半年报告，指出国内与海外市场情况不同，国内移动端和PC端AI产品月活下滑，AI搜索需求被验证，百度成DeepSeek流失用户最大接盘手，还分析了各类型AI应用发展态势。
微软 Build 2025：AI 智能体时代与开放智能体网络的构建
微软 Build 2025 大会展示迈向 AI 智能体时代路径，如发布新功能助力开发者，让 AI 智能体更强大安全，支持开放智能体网络，还推出平台加速科学发现。
具身智能能力狂飙，安全却严重滞后？首个安全可信EAI框架与路线图出炉！
具身人工智能发展迅速，但能力与安全出现“脱钩”。上海人工智能实验室和华东师范大学团队撰写论文，为“安全可信具身智能”建立理论框架与蓝图，提出成熟度模型、分析框架等。
多模态大模型持续学习系列研究，综述+Benchmark+方法+Codebase一网打尽！
近年来，生成式AI和多模态大模型进展显著，但在动态环境下实现持续学习是挑战。中科院自动化所联合香港院AI中心系统性研究，提出综述、方法、Benchmark和Codebase，为相关人员提供全面支持。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
17岁高中生用AI解决数学界难题，陶哲轩、Jeff Dean点赞
17岁高中生 Enrique Barschkis 课间休息时解决埃尔德什第347号问题，引发热议获 Jeff Dean 盛赞。他在陶哲轩等人思路基础上完成证明，用 AI 工具将证明形式化，成果获数学社区认可，标志数学研究进入新阶段。
评论送书 | 奇点何时到来？AI会成为人类的威胁吗 ？
文章从非线性非平衡多自由度系统研究视角探讨生成式AI发展态势，对‘规模增大引发相变实现奇点’及‘AI成人类威胁’观点存疑，指出人类智能与AI智能有差异，推荐《智能的真相：AI能替代人脑吗？》。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 博文警告，基于 MCP 构建的 AI 开发工具引入安全漏洞，如凭证泄露等。MCP 发展迅猛但部分实现有隐患，Docker 分析发现广泛漏洞，还提出强化方法应对风险，其他厂商也有类似担忧。
教AI「择偶生娃」，复刻自然演化！上交校友提名最佳论文
Sakana AI受自然演化启发提出全新模型融合进化方法M2N2，引入‘择偶机制’让AI‘竞争、择偶、繁衍’。此研究获GECCO 2025最佳论文提名，M2N2表现优于其他算法，还避免‘灾难性遗忘’。