「安全测试」共找到 2488 篇相关文章
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。
马斯克发布“地球最强AI模型”Grok 4：横扫所有榜单，在“人类最终测试”超越人类博士”！
北京时间7月10日，马斯克团队发布Grok 4，其基准测试成绩惊人，在‘人类最终测试’等表现出色。它成功源于多智能体协作、追求真相哲学和高算力投入，还在多领域展现应用潜力，同时公布定价并坦言短板。
规范对齐：回答前的深思，让安全与行为边界更清晰
OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。
文言文秒杀所有大模型！100%攻击成功，轻松突破安全防线
南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。
4 万星开源项目被指造假！MemGPT 作者开撕 Mem0：为营销随便造数据，净搞没有意义的测试！
高人气开源智能体记忆项目 Mem0 发布论文，称在 LOCOMO 测试打败对手。MemGPT 创始团队 Letta AI 联合创始人公开指控其造假，称测试无意义，自己轻松超其基准数据。二者都为解决大模型长期记忆问题而诞生。
AI模型守法率提升11%，港科大首次用法案构建安全benchmark
香港科技大学KnowComp实验室从法律合规视角研究LLM安全，提出「安全合规」新范式。基于法律条文构建benchmark，用GRPO微调Qwen3 - 8B得推理模型，在新benchmark测试中性能提升显著。
Sora 2刷屏全网：拍《瑞克和莫蒂》、过物理测试，太棒了
OpenAI推出的Sora 2刷屏海外，能完成以往视频生成模型极难实现的任务，在物理准确性、逼真度和可控性上有重大提升。它还能进行二创、模拟电脑操作等。OpenAI发布由Sora 2驱动的社交APP，强调促进创作，保障安全。
1.2万人收藏单日斩获 3.4K！刚刚冲上 GitHub Trending 榜首的“AI 红队”工具！
AI加速代码编写，但也留下更多安全坑，传统扫描工具和人工渗透测试难以应对。新晋GitHub Trending榜首工具Shannon是全球首个开源全自动AI渗透测试员，多智能体架构，功能强大，适合AI编程团队。
GPT-6 Astra突袭：正面对垒 Fable 5.1，多项编码测试反超！OpenAI 总裁：欢迎来到 AGI 时代
今天凌晨，OpenAI 发布 GPT-6 Astra，公司称是多年研究成果。它在多项测试表现出色，编程、电脑操作等能力提升，还加强了安全措施。将面向部分用户及通过 API 和 AWS 推出。