「AI安全事件」共找到 10099 篇相关文章
一夜裁员4000人！前推特CEO挥刀，硅谷白领的安全感崩了
金融科技巨头Block毫无征兆裁掉4000人，CEO称是智能工具催生新工作方式。但专家指出AI未大规模提高生产效率，裁员或因人员臃肿和财务问题，如今白领工作受AI冲击大。
Hinton与姚期智对谈：认为人类的意识特殊，那是危险的无稽之谈
图灵奖得主Geoffery Hinton与姚期智对谈AI相关话题。Hinton认为人脑可给AI借鉴，还探讨人类未来与AI道德，强调训练善良AI重要；他觉得大模型有理解能力，将人类意识特殊化是危险无稽之谈。
龙虾惨遭卸载，OpenAI 最新博客：Agent 的安全隐患，可能永远无解
OpenAI 博客指出 AI Agent 安全隐患或无解。三大 AI 巨头投入防御，仍难抵攻击，如 OpenClaw 就出现多起安全事故。其根源是大语言模型架构缺陷，不过‘不可解’不等于‘不可控’，业界已有应对策略。
烧3万亿美元实现ASI，把自己优化掉：这是硅谷CEO们的新赌注
硅谷大佬热衷预言AI接管公司，皮查伊称CEO工作AI易胜任，奥特曼想让OpenAI由AI掌管。但当下技术连自动售货机都难经营好，科技巨头豪掷3万亿，纳德拉却认为AI难掌管公司。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。
网易云音乐前 CTO 曹偲：代码越来越不重要，好的架构才是软件工程核心
网易云音乐前CTO曹偲推出AI Coding产品Toco AI，旨在将确定性和工程性带入AI Coding。他认为架构决定软件开发上下限，代码会逐渐黑盒化，业务架构更重要且难被AI取代，产品可助力软件开发。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
LLM应用测试范式的进化
文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。
2025 智能体元年，Agent 开发平台深度评测报告解读
2025 年 AI 产业两大核心趋势并行，AI Agent 产业化落地提速。国家工业信息安全发展研究中心赛昇实验室发布评测报告，对阿里云百炼等四大 Agent 开发平台从 RAG、工作流能力、Agent 工具调用三大维度测试，为行业选型提供参考。
最近新出现的两个提示词注入攻击场景
随着AI应用广泛，提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件，与AI分析系统对抗；二是多所大学论文含面向AI的秘密指令，对抗AI审稿。本质是攻防双方的对抗，且会持续。