「AI安全测试」共找到 10756 篇相关文章
靠“AI 云”爆红的 Vercel，栽在一个第三方AI工具手里！IPO前夕遭黑，200万美元赎金谈崩？
近日，云平台 Vercel 遭入侵，攻击者通过被入侵的第三方 AI 工具 Context.ai 实施攻击。Vercel 确认‘安全事件’，称少量客户受影响，谷歌 Mandiant 团队协助调查。此事发生在其 IPO 前夕，或引发连锁安全暴露。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
意图是 AI 时代的新入口｜AGIX PM Notes
文章围绕AI时代展开，指出互联网时代商业模式核心是“入口”，AI时代应关注“意图”。还提及上周对冲基金资金流动、AI企业动态，如微软推安全方案、Alphabet合资开发机器人等。
AI看不到的爱心，成了最棒的AI检测器。
作者以漂浮爱心图检测AI，Gemini 2.5 Pro、GPT - 5等模型均失败。又用噪点鹿视频测试，AI准确率为0%。原因是AI是空间王者、时间瞎子，无“共同命运法则”视觉系统，存在时间盲视。
OpenClaw们狂奔，谁来焊死安全车门？
2026年开年，AI进化成“行动式智能体”，带来便利的同时，也引发恐慌，传统安全思维失效。江苏通付盾提出前瞻性智能体安全框架，已在“大群空间”多智能体协同平台落地。
两个浙大学生决定只用AI生存72小时｜甲子光年
五源资本发起“72小时AI生存挑战”，浙大学生区瀚楠、陈睿轩参与。他们在封闭房间用AI工具生存72小时，先搭建Agent购得物资，后尝试用AI赚钱未成功。此活动灵感源于99年“72小时网络生存测试”。
创始人自曝让儿子辍学用AI上课、水平超同龄人！俞敏洪最先押注的“AI学校”，负债9亿不垮、现在要开到美国了
松鼠Ai创始人栗浩洋让儿子辍学用AI上课，称其水平超同龄人。该公司由俞敏洪最早投资，曾负债9亿，后转型推出学习机业务。如今计划将‘AI学校’开到美国，正做相应市场适配调整。
突发！特朗普刚刚发布《美国AI计划》，OpenAI、微软、亚马逊成大赢家
今天凌晨，特朗普公布《美国AI行动计划》，含加速AI创新、构建基础设施、主导外交安全三大支柱及90多项行政命令，旨在让美成全球AI霸主，还将中国列为对手，多官员表态肯定该计划。
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
AI安全的过去与未来：从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。