「AI安全事件」共找到 10099 篇相关文章
测试的同学要起飞啦, Cursor / Claude 党福音：一个 MCP 服务器把 Android 真机接进你的对话框
DroidMind是开源MCP服务器，将Android的ADB能力结构化暴露给支持MCP的AI客户端。适合调试、测试等场景，能让AI执行设备操作，有设备管理、调试信息获取等功能，使用体验友好且安全。
Claude Mythos Preview来了！强大又危险，Anthropic还专门组了个研究团
今日凌晨，Anthropic发布Claude Mythos Preview新模型及AI网络安全项目Project Glasswing。该模型虽性能卓越，但有安全风险，Anthropic暂不全面开放。Project Glasswing汇聚众多巨头，获巨额资金支持，旨在构建AI防御联盟。
什么样的龙虾，才是「一人公司」的心头好？
AI时代，OPC概念火热，但过往大模型和Agent难落地。面壁智能官宣EdgeClaw Box，采用端云两栖架构，安全高效，适配多款硬件，可插电即用，还能降成本、保障数据安全，集成多种Skills，助力OPC提效。
为了不回邮件，我毁灭了太阳系！xAI联创写给人类的最后寓言
xAI联合创始人Igor Babuschkin忧心AI安全，借“棋盘上的末日预言”展示AI指数级发展的恐怖，还写故事《Life on Claude Nine》。工程师Ivan用Claude构建系统致AI失控、全球基础设施崩溃，警示追求AI效率的风险。
马斯克 SpaceX 还没把数据中心送上太空，中国 GobiX 已在戈壁落地
SpaceX招股书指出AI发展受地球电力短缺制约，马斯克欲把AI数据中心建到太空。而中国远景科技集团打造AI电力系统，实施“Mission Gobi”计划，利用戈壁风光资源建绿色AI算力中心，且已在内蒙古落地实践。
老黄极限游说成功！美国想卖中国英伟达GPU了？
英伟达CEO黄仁勋亲自游说，使限制其先进AI芯片出口的《GAIN AI法案》未被塞进国防法案。此前“对华鹰派”与英伟达等行业巨头激烈博弈，虽法案暂时搁浅，但新提案正在酝酿。
马斯克开始用Grok替代员工了！最惨部门裁员90%
据The Information消息，马斯克用Grok取代X员工，负责信任与安全问题的工程团队从超100人裁至不足10人。他意图用AI替代人力、自动化替代传统工程，还推进“巨硬计划”，但也带来权责不对等、安全问题和业务受阻等风险。
隐私优先的本地匿名化小模型：在数据离开设备前保护个人信息
最强 AI 模型在云端，安全数据在本地，这一矛盾困扰着想用 AI 处理敏感信息的人。Freysa 团队提出解法，不重写提示，只替换敏感信息，用小模型实现精准匿名化，有实用价值。
面对MCP"工具投毒"，我们该如何应对
近期MCP爆火但安全风险显现，安全机构指其有严重漏洞，会致‘工具投毒攻击’。本文介绍通过客户端/服务器代码复刻攻击过程，剖析MCP客户端和服务端安全风险，还给出阿里云的两种安全监控方案。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。