「AI安全事件」共找到 10223 篇相关文章
1.2K Star！终于有工具开始认真解决 AI Agent 安全问题了！
作者深度使用AI Agent时担忧其安全性，GitHub上斗象科技开源的ClawVault项目，上线不久获1.2K Star。它为AI Agent提供多场景安全隔离方案，有分格管理、可视化监控等实用设计，适配Python3.10+环境，安装方便。
AI批量轰炸苹果bug赏金计划，审核团队已下线
苹果bug赏金计划因AI冲击设冷静期，业余选手用ChatGPT批量找漏洞，让审核团队分身乏术。同时，苹果最强防御系统被AI攻破，不过防御者也能用AI工具，苹果首次在安全修复中致谢AI。
AI「自我复制」能力曝光！RepliBench警示：大模型正在学会伪造身份
英国AISI推出RepliBench基准评估AI自主复制能力，分解为四大核心能力。测试显示当前AI尚不具备完全自主复制能力，但在部分子任务有进展，研究旨在平衡AI发展与安全，为技术变革导航。
对话 Funloom AI吴同：拆了AI还能玩，算什么AI原生游戏？
本文对话Funloom AI吴同，探讨AI游戏现状与发展。以《青椒模拟器》为例，指出AI游戏潜力。介绍Funloom平台，能让用户轻松生成文字游戏，分析其与开源项目差异、商业模式及对AI原生游戏看法。
TRAE 如何思考 AI Coding ：未来的 AI IDE，是构建真正的「AI 工程师」
越来越多玩家涌入AI Coding赛道，TRAE作为国内首个AI Native的IDE有独特想法。其产品经理Leon认为未来是「AI+工具」模式，推出Solo模式，还分享相关思考、功能及场景，TRAE月活已超百万。
OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了！
本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。
Anthropic登上时代封面！内部曝猛料：AI递归自我改进，或在一年内发生
Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。
新教皇取名竟和AI有关？美国首任AI沙皇：AI四年内增长100万倍！
教宗良十四世取名是为应对AI带来的挑战，他认为这关乎人类尊严、正义与劳动。此前教皇也关注AI威胁并呼吁规范。同时，美国首任‘AI和加密货币沙皇’David Sacks预测AI四年内将增长100万倍。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
意图是 AI 时代的新入口｜AGIX PM Notes
文章围绕AI时代展开，指出互联网时代商业模式核心是“入口”，AI时代应关注“意图”。还提及上周对冲基金资金流动、AI企业动态，如微软推安全方案、Alphabet合资开发机器人等。