「AI安全测试」共找到 11106 篇相关文章
全球顶尖大模型一夜惨遭血洗！最难测试人类拿满分，AI第一名得0.2%分
全球最难AGI测试ARC - AGI - 3上线，人类满分通关，最强模型Opus 4.6仅得0.2%。测试从静态题变为互动游戏，评分看效率。前沿大模型得分低，非LLM方案表现更好，AI缺乏元认知能力。
AI软递归自我提升，Hassabis夜不能寐：人类已至奇点山脚
AI递归自改进和研究自动化正从概念走向现实，哈萨比斯称人类站在「奇点山脚」。Claude已独立编写超80%代码，Anthropic工程师效率大幅提升。但AI递归也带来安全风险，全球实验室陷入「囚徒困境」。
AI写论文，AI评阅！AI顶会ICLR完成「AI闭环」，1/5审稿意见纯AI给出
在号称「史上最严管控AI」的顶级会议ICLR 2026上，超五分之一审稿意见由大模型一键生成。这发生在ICLR颁布史上最严LLM规定后不久，引发诸多争议，也凸显AI改写科学评审分工的趋势。
53.7% 高学历政企人员“看走眼”！公文写作AI智能体首次通过图灵测试
2025数博会期间双盲测试中，53.7%高学历政企人员将‘方寸智脑’生成公文误判为人类作品。它与华为云合作，解决政务AI落地困局，实现政务公文写作三阶跨越，已服务众多用户。
人类最后考试登上Nature：全球50个国家近千名顶尖学者打造的AI测试集
人类最后的考试（HLE）登上Nature，这一测试集由全球50个国家近千名顶尖学者打造，含2500道高难度试题。现有的人工智能评估工具已跟不上技术演进，HLE能测出AI极限，让顶尖机器暴露短板。
打穿 AI 智商测试！GPT-6 Astra 的符号世界模型，是突破还是钞能力刷分？
OpenAI的GPT-6 Astra亮相，在ARC - AGI - 3测试成绩逼近100%，远超GPT - 5.6 Sol。它生成的符号世界模型被认为是AI迈向高级推理必经之路。不过出题人指出其靠Harness加持，离AGI还远。
微软AI掌门直击AI乱象！AI意识纯属危言耸听，机器觉醒歧途一条
微软AI负责人Mustafa Suleyman认为只有生物体才有意识，开发者不应追求让AI有意识。他强调区分AI能力提升和拥有意识的不同，反对讨论AI意识，还分享了微软产品相关看法。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
AI低质代码泛滥、API经济盛行，老牌科技厂商 F5 如何应对大模型应用“后遗症”？
F5亚太区CTO Mohan Veloo指出AI编程工具带来安全、低质代码、‘黑盒子’等问题。F5调查显示企业业务AI驱动下，安全成挑战。F5推出ADSP平台应对，还发布AI Gateway、AI助手等产品。
盖茨警告：AI可致十亿人死亡！教皇痛批「机器天堂」
本文整理了近期全球各界针对AI风险的重磅表态，前科技乐观派比尔·盖茨发出AI可致十亿人死亡的警告，呼吁政府强制监管；教皇痛批AI“机器天堂”侵蚀人性，凸显AI安全已升级为全球性生存危机。