「安全评估」共找到 1553 篇相关文章
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
如何破解内容安全“不可能三角”？快手王东旭：把组织从“固态”变成“液态”
快手内容安全团队负责人王东旭在AICon大会拆解“人机协同”破解内容安全“不可能三角”。他提出组织从“固态”转向“液态”，构建“AI合成旅”，还阐述产运研等岗位职能跃迁及协同模式升级，强调速度是护城河。
音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造
南洋理工和清华团队提出新框架AudioTrust，将ALLMs评估扩至六个核心维度，探究音频模态特有问题。目前基准及平台已开发，揭示了开源与闭源ALLMs在多维度的潜在风险。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年是AI智能体元年，市场规模将达113亿美元，但企业部署面临‘效能黑箱’，缺乏评估规范。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现征集起草单位和个人。
OpenAI 发布GDPval，可真实评估现实世界经济价值。Claude Opus 4.1 拿下第一
OpenAI推出GDPval，可评估AI在真实经济价值任务上的表现。它从9个行业选44种职业，设1320个真实任务。Claude Opus 4.1表现最佳，前沿模型速度快、成本低。OpenAI计划扩展GDPval，还开源部分内容。
如何破解海量内容审核难题？快手安全大模型技术探索与应用实践
在数字内容爆炸式增长下，传统内容审核模式难应对挑战。快手安全算法中心负责人刘梦怡分享自研多模态大模型技术方案与应用实践，涵盖架构、数据、训练等，还介绍审核智能化应用及未来展望。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，市场规模将达113亿美元，但企业部署面临‘效能黑箱’。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，填补评估空白，现公开征集起草单位和个人。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
2025年成AI智能体元年，市场规模将达113亿美元。但企业部署时面临‘效能黑箱’，缺乏评估规范。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现征集起草单位和个人。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人！
AI智能体正从辅助向自主决策进化，但企业因缺乏评估规范，面临选型、验收、优化难题。智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，公开征集起草单位和个人。