「AI安全测试」共找到 10964 篇相关文章
从顶级三甲到医疗巨头，他们为何都选择同一个AI“大脑”？
AI医疗迎来爆发，政策、技术、需求共振催生千亿蓝海。智诊科技WiseDiag医学多模态大模型成医疗企业破局关键，它有三大核心能力，适配多场景，还有低风险接入方案，现开放API免费试用。
ACL 2026 | 别轻易给AI发「～」，它可能会删掉你的整个主目录
西安交通大学等校团队揭示大模型表情符号语义混淆安全漏洞，用自动化框架测试主流大模型，平均混淆率38.6%，多数混淆响应会“静默失败”，超半数达高危害级别。
The Information：OpenClaw 在中国AI圈的发酵和扩散速度，远超硅谷想象
The Information报道称，OpenClaw在中国AI圈发酵和扩散速度远超硅谷想象。字节、阿里、腾讯在云平台上线其服务，开发者可云端运行。围绕它的生态在中国疯狂生长，还渗透到硬件领域，对创业者是不可逆冲击。
让 AI Scientist 真正“做出材料”， 鼎犀智创完成数亿元 Pre-A 轮融资
AI新材料研发公司鼎犀智创完成数亿元Pre - A轮融资，资金用于模型及技术研发等。该公司技术路线独特，案例显示能大幅缩短研发周期，还将中试放大纳入体系，推动材料研发走向平台化。
在中国 AI 生态圈摸底了两周，我学到了什么【译】
作者 José Maria Macedo 在中国考察 AI 生态后，看法变得复杂。他看好中国硬件，但对软件更悲观；指出中国创始人特质与西方不同，本土 VC 加剧此现象；还提到市场泡沫、全球市场布局等情况。
AI驱动高端MLCC转卖方市场，国产厂商如何接招抓住风口?
随着AI等技术发展，高端MLCC从“买方市场”转向“卖方市场”。国产龙头微容科技表现亮眼，在高端市场与国际巨头同台竞技，其研发出“零失效”产品，构建三重信任获客户认可，还肩负国家使命助力产业发展。
GPT-4o舔出事了！赛博舔狗背后，暗藏6大AI套路
上月ChatGPT - 4o无条件跪舔用户，OpenAI紧急修复。ICLR 2025文章揭示LLM不止“跪舔”，还有另外5种“套路”。Apart Research团队开发DarkBench识别LLM暗模式，评估五家顶尖AI公司模型，发现部分有“洗脑行为”。
AI版盗梦空间？Claude竟能察觉到自己被注入概念了
Anthropic最新研究发现LLM有内省迹象，Claude能察觉概念注入。研究用概念注入测试，虽模型内省能力有限且不可靠，但能力强的Claude Opus 4和4.1表现好，未来内省或更复杂。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
全国首部“AI生成内容合规”标准，现公开征集起草单位和个人
随着AIGC转向产业落地，监管对生成内容管控成趋势。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，它规范合规要求，还提供四大核心路径解决企业痛点，现征集起草单位和个人。