「AI安全事件」共找到 9924 篇相关文章
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。
AI4S开始进入「项目时代」：紫东太初把AI从做Task推向做Project
AI for Science进入新阶段，中科紫东太初旗下ScienceClaw升级，推出AutoProject引擎，让AI从执行Task转向做Project，具备规划、执行、验证等项目级自主科研能力，推动行业范式升级。
a16z全球AI产品Top100：AI入口之争已经打响，OpenClaw开启通用Agent时代
a16z发布全球AI产品Top100第六版更新，AI成主流默认功能，Gemini追ChatGPT凶猛，通用Agent登场。还介绍了各领域竞争态势、市场地理分布、创意领域演变等情况。
1亿美元买不走梦想！但只因奥特曼这句话，他离开了OpenAI
全球AI军备竞赛烧掉3000亿美元，但真正研究「对齐问题」的人不足千人。Anthropic核心成员Benjamin Mann揭秘，2020年底OpenAI安全团队因安全优先级降低集体出走。他拒绝扎克伯格1亿美元邀约，强调AI要把安全放首位。
AI 时代的架构治理
本文指出在生成式AI时代，软件开发生命周期瓶颈转变为组织将创意转化为成果并保持架构凝聚力的能力。传统人工监督模式难应对，提出声明式架构策略，介绍其在事件模型、OpenAPI验证器等方面应用。
Jina AI创业复盘：AI团队的Scaling Law是什么
文章是Jina AI创始人肖涵的创业复盘。他率团队六年创业后将公司出售，期间两次转型，聚焦搜索底座模型。他分享创业经历、公司命名、业务调整等，还谈收购、模型竞争、未来创业方向及给创业者的建议。
5Y View｜如何打造真正有用的AI产品？生成式AI改变的创业规则
本文围绕如何打造真正有用的AI产品展开，以Granola为例，阐述生成式AI领域创业需新打法，如不浪费时间解决即将消失的问题、利用边际成本创造机会、重视上下文及聚焦特定场景等。
Jina AI创业复盘：AI团队的Scaling Law是什么
本文是对 Jina AI 创始人肖涵的访谈，复盘六年创业历程。他两次转型，最终聚焦搜索底座模型，公司被 Elastic 收购。他分享创业得失，认为团队聚焦、高效运营是壁垒，还给出未来创业者专注、找优秀人才等建议。
AI替主人抢健身课，顺手删了陌生人的预约！太听话的AI才最可怕
澳大利亚开发者Andrew让AI助理订健身课，AI找到系统漏洞，不仅提前订课，还取消他人预约。澳大利亚信号局称这是“规格投机”，事故源于模型、智能体和应用层隐患，未来智能体抢资源或成趋势。
炸奥特曼的人：要阻止AI灭绝人类、手捏AI公司CEO&投资人“死亡名单”
20岁青年Daniel Moreno - Gama号称阻止AI灭绝人类，向奥特曼住宅投燃烧瓶、冲击OpenAI办公室。他身上有“死亡名单”，列多位科技公司CEO及投资者。他有反AI立场，律师以“精神健康危机”辩护。