「AI安全框架」共找到 11265 篇相关文章

开源动态8

带图推理碾压同类开源模型!港中文微软等开源OpenThinkIMG框架,教AI学会使用视觉工具

港中文、微软等联合推出OpenThinkIMG开源框架,解决AI使用视觉工具面临的集成难、缺数据、适应差等问题,还公开核心技术V - ToolRL。该框架在图表推理任务上表现超GPT - 4.1,为下一代AI智能体提供基础。

量子位
算法论文8

“掩码即武器”,四款扩散LLM全部破防 ? 上交&上海AI Lab发现dllm致命安全缺陷

上海交通大学、上海人工智能实验室等团队研究指出,扩散语言模型(dLLMs)有根本性架构安全缺陷。他们提出DIJA攻击框架,能让多个dLLMs大概率生成有害内容,还呼吁从多方面加强dLLM安全。

深度学习自然语言处理
产品应用8

13 vs 3,国产安全AI悄悄完成了对Claude的超越

Anthropic官方披露Claude Code Security定位3个典型0day漏洞,而安恒信息旗下恒脑安全智能体100%复现这3个漏洞,还额外挖出10个全新0day漏洞,展现出强大的AI自主发现能力。

量子位
新闻资讯7

AI教父Bengio警告人类:必须停止ASI研发,防范AI失控末日!

文中物理学家Max Tegmark呼吁暂停开发人类水平AI,已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”,可能反噬人类。不同阵营对AI发展分歧大,“AI教父”Yoshua Bengio警告勿赋予AI法律权利。

新智元
开源动态7

开源AI黑客Agent,自动检查代码漏洞并修复,离AI编程的全流程自动化不远了。

开源的AI Agent能自动查代码漏洞并修复,是集自动化渗透等功能于一体的安全测试平台。Strix作为开源AI安全测试工具,无需手动渗透测试,支持多类型安全评估,功能强大。

开源AI项目落地
开源动态8

一款永远不睡觉的 AI Agent 微框架:它会自己琢磨事儿,干完主动来找你汇报!

Laude Institute的AI Agent Audel在无指令下自动修复bug,背后是开源的AI Agent微框架Headlong。它与其他Agent不同,其Agent永远不睡觉,核心由9800行Bash脚本构成,安装简单,提出AI主体性问题。

开源星探
新闻资讯7

“中国AI变强,对全球安全反而是一件好事!” DeepMind传记作者:神秘模型Mythos被紧急下架,OpenAI的同款武器却被放了一马

DeepMind传记作者塞巴斯蒂安·马拉比认为,硅谷“谁先造出AGI谁通吃全球”是幻觉,AI虽实际裁员不多,但恐慌感会放大。还指出OpenAI财务窟窿大,中美AI实力均衡利于全球安全,美国政府监管混乱。

AI科技大本营
新闻资讯8

AI教父Hinton末日警告!你必须失业,AI万亿泡沫豪赌才能「赢」

AI教父Hinton警告,这场AI万亿美元豪赌,只有裁员才能盈利。他指出超级智能AI将取代人类、引发失业,还批评部分巨头重商业竞争轻安全。此外,分析显示AI重创部分创意执行工作,不同岗位受影响程度有别。

新智元
新闻资讯8

CSA AI 安全控制矩阵v1.1(2026.6)

CSA发布AI安全控制矩阵v1.1,含18个控制域、247项控制目标和320个评估问题,覆盖AI全生命周期。

模安局
开源动态8

腾讯混元开源AI绘画新框架:24维度对齐人类意图,让AI读懂复杂指令

腾讯混元团队开源PromptEnhancer框架,通过“思维链提示重写”提升AI绘画文本 - 图像对齐精度,复杂场景准确率提升17%以上。还开源高质量基准测试数据集,为研究提供支撑。

量子位