「AI安全测试」共找到 11106 篇相关文章
0%完成率！Claude、GPT、Gemini 全灭，SWE-Bench作者新作把AI圈干沉默了
SWE - Bench创建者推出新benchmark ProgramBench，测试AI从零构建软件系统能力。结果一线模型完成率0%，暴露AI擅长局部代码生成，缺全局系统规划能力，引发对其评估方式的讨论。
AI根本守不住秘密！不依靠大模型的输出过滤才是铜墙铁壁
开发者常把秘密放系统提示词，以为安全。Swept AI和密西根大学团队测试发现，攻击者不断尝试，AI会泄露秘密。多种依赖大模型的防御方案失败，只有输出过滤能零泄露。
很多AI人还在自嗨，外贸人已经用AI卷翻天了。
作者参加OKKI 2025新品发布会，深感外贸人用AI“卷翻天”。总结8条启示，如AI是队友、智能体达L3才成熟等，强调用人类思维理解行业，以AI解决问题，让技术转化为生意增量。
第一作者必须是AI！首个面向AI作者的学术会议来了，斯坦福发起
斯坦福大学宣布将于2025年举办科学AI智能体开放会议，投稿要求第一作者必须是AI，由其主导论文创作。会议评审主要用AI，人类专家最终评估。目标是探索AI驱动科研的未来，建立规范。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
AI公司创始人现跑路迪拜！80%收入烧广告、假账骗投资人，微软都被坑：硅谷的第一个AI大泡沫出现了！
AI独角兽公司Builder.ai估值15亿美元，现破产清算。创始人Sachin Dev Duggal跑路迪拜，公司花80%收入宣传，还用假账骗投资。此前就被指无AI能力，靠人工开发。当下虚假AI盛行，多家相关公司涉欺诈。
马斯克发布“地球最强AI模型”Grok 4：横扫所有榜单，在“人类最终测试”超越人类博士”！
北京时间7月10日，马斯克团队发布Grok 4，其基准测试成绩惊人，在‘人类最终测试’等表现出色。它成功源于多智能体协作、追求真相哲学和高算力投入，还在多领域展现应用潜力，同时公布定价并坦言短板。
807道灵魂拷问后，中国模型竟在「意义测试」中夺冠！
在美国新基准测试FAI - C中，中国开源模型Qwen3夺冠，DeepSeek的R1跻身前六，力压美国明星实验室顶级模型。该测试由前英特尔CEO帕特·基辛格所在公司Gloo推出，旨在让AI直面深层问题。
Teleport 报告：AI 安全事件频出，背后往往是过度授权
Teleport报告指出，为AI系统授予过度访问权限的企业，安全事件发生率是权限管控合规企业的4.5倍。身份管理体系建设跟不上AI落地速度，精细化权限授予是关键，还给出搭建统一身份层等建议。
刚刚！OpenAI与Anthropic CEO罕见同台，黄仁勋当场唱反调：AI到底要不要踩刹车？
Salesforce Dreamforce 2026大会上，OpenAI、Anthropic、英伟达三大AI巨头CEO罕见同台，围绕AI发展是否需要踩刹车展开激烈论战，各方立场背后暗藏产业利益博弈，头部模型厂商已密谈行业安全协同。