「AI安全测试」共找到 11106 篇相关文章
9 个加速开发者生产力的开源 AI 与 MCP 项目
Github官方精选9个开源项目，分框架与平台集成、开发者体验及AI增强编码、自动化与测试编排三大主题。各项目聚焦不同功能，如将MCP嵌入框架、语义理解辅助编码、安全执行调试等，能加速开发者生产力。
5个月估值翻10倍，AI数据赛道跑出一家新独角兽
成立约18个月的AI训练数据公司AfterQuery正筹新一轮融资，估值达32亿美元，5个月涨超10倍。它最初想开发AI智能体，后转收集训练材料。此赛道已有多家高估值公司，且数据隐私和安全风险待解。
7个AI玩狼人杀，GPT-5获断崖式MVP，Kimi手段激进
OpenAI总裁转发基准测试，让7个LLMs玩210场狼人杀。GPT - 5胜率96.7%断崖式领先，国产Qwen3和Kimi - K2分列第4、6。测试方分析模型性格，还借此研究LLMs社会行为，长远目标是实现AI驱动的市场研究。
YC点名创业方向：AI欺诈猎手，可能干掉整个反欺诈行业！
2026年春，YC发布的RFC清单中，‘政府欺诈猎手基础设施’引发关注。传统反欺诈存在‘非对称竞争’，而智能体技术为防守方带来翻盘机会。构建AI原生业务模型，可让防守方获结构性优势，但要解决安全与合规问题。
OpenAI Astra被曝引入「循环深度」能力飙升！安全专家坐不住了
OpenAI 最强新模型 Astra 或即将发布，它是首个达「关键级」网络安全能力门槛的模型，在测试中表现优异。《The Information》爆料其用「循环深度」技术，能力提升但引发安全专家担忧，该技术可使模型内部计算增多，思维链监控或失效。
00后挑大梁！近20国选手激战外滩大会，AI科创赛三赛道冠军诞生
9月10日，2025外滩大会AI科创赛在上海落幕，设三大核心赛事，80个项目获奖。00后成主力，近20国选手参与。大赛提供资源支持，AI硬件赛受青睐，金融与安全赛道涌现创新方案，还开源数据集。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
被Anthropic强制改名！Clawdbot 创始人一人开发、100% AI 写代码，腾讯又跟上了热度
个人AI助手ClawdBot席卷硅谷，后被Anthropic强制改名Moltbot。它由Peter Steinberger一人开发，近乎100%用AI写代码。该项目已开源，有诸多亮点，但也存在安全隐患，网友使用场景多样。
AI顶会ICLR最严新规：滥用AI的作者和审稿人，论文一律拒稿！
面对AI生成论文与注水评审泛滥，AI顶会ICLR祭出「核威慑」。除惩罚未披露滥用AI的作者，用AI敷衍的评审者论文也将拒稿。还将打击双重投稿变体，维护学术真实。
重写手机AI安全边界！首个MoAI攻防SoK，系统梳理三大安全支柱
墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。