「AI模型安全」共找到 13573 篇相关文章
SOTA大模型遇上加密数据评测：Qwen3未破10%，o1也栽了丨上海AI Lab等联合研究
当前推理模型在基准测试中性能卓越，但在密码学领域推理能力待探索。上海AI Lab等推出CipherBank评测，用海量真实隐私场景数据和多类型密码算法挑战SOTA大模型，结果显示模型表现不佳，还分析了模型“犯难”原因。
AGI是否需要世界模型？顶级AI专家圆桌论道，清华求真书院主办
2025年7月20日，2025基础科学与人工智能论坛举行，孙茂松、刘铁岩等顶尖AI专家围绕AI根本问题展开讨论，涉及因果性、世界模型、原创能力、算力等方面，为AI技术发展勾勒图景与挑战。
13 vs 3，国产安全AI悄悄完成了对Claude的超越
Anthropic官方披露Claude Code Security定位3个典型0day漏洞，而安恒信息旗下恒脑安全智能体100%复现这3个漏洞，还额外挖出10个全新0day漏洞，展现出强大的AI自主发现能力。
禁止开源 AI？绝对不可能。不是，那您也不能植入代码啊
对岸AI监管升温，开放权重的AI模型或进入“事前准入”流程。开源AI模型有诸多优势，闭源模型并不天然可信。应分级治理开源风险，中国开源模型崛起或改变全球AI竞争格局。
ICCV 2025 | 港科、牛津大学发布AlignGuard，文图生成模型可规模化安全对齐框架
随着文图生成模型广泛应用，其安全防护机制有限。ICCV 2025上，港科、牛津大学推出AlignGuard，是文图生成模型可规模化安全对齐框架，通过生成CoProV2数据集等实现安全对齐，实验效果佳。
AI大模型重塑学习硬件：从工具到伙伴 | 网易有道孟旭
在 AICon 全球人工智能开发与应用大会·上海站（2025）现场，网易有道孟旭以有道 AI 答疑笔为例，分享智能学习硬件变革逻辑，指出其进化是用户需求、硬件创新与 AI 技术螺旋推进，还探讨大模型应用及未来方向。
全国首部AI大模型私有化部署标准，公开征集起草单位和个人！
大模型浪潮下，企业对AI投入加大，私有化部署需求凸显，但缺乏成熟实施框架。全国首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》应运而生，已聚集30余家单位参编。
全国首部AI大模型私有化部署标准，公开征集起草单位和个人！
近期AI领域政策频出，企业对AI应用需求攀升，倾向私有化部署，但面临诸多问题。国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和个人。
WithAnyone重磅开源：这可能是你见过最自然的AI合照模型
复旦大学携手阶跃星辰推出全新AI合照生成模型WithAnyone，它能生成自然、真实、毫无违和感的AI合照。该模型打破以往方法局限，当前ComfyUI版本已上线，还全面开源代码、模型权重等。
黄仁勋率先开源量子AI大模型
英伟达推出全球首个开源量子AI模型家族NVIDIA Ising，含校准和纠错模型。它简化对复杂物理系统的理解，为量子纠错和校准提供高性能工具，有望加速量子系统实用化。