「安全防范负责人」共找到 1139 篇相关文章
代码暴减99.9%！独立开发者仅用500行代码做出安全版OpenClaw，GitHub星数狂飙
近日，独立开发者 gavrielc 制作的开源 AI 助手 NanoClaw 火了。它核心代码仅约 500 行，实现 OpenClaw 同等核心功能。相比原版 Clawdbot 代码量大减，还解决了 OpenClaw 安全架构问题，是其安全替代方案。
“掩码即武器”，四款扩散LLM全部破防 ？ 上交&上海AI Lab发现dllm致命安全缺陷
上海交通大学、上海人工智能实验室等团队研究指出，扩散语言模型（dLLMs）有根本性架构安全缺陷。他们提出DIJA攻击框架，能让多个dLLMs大概率生成有害内容，还呼吁从多方面加强dLLM安全。
ACL'25 | 多智能体叛变进行中？首个多智能体安全守卫G-Safeguard亮相！
随着基于LLM的多智能体系统崛起，其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架，它基于图神经网络，通过构建多智能体话语图等方式，能有效抑制恶意信息传播，有强大防御和泛化能力。
DeepMind AlphaProof 前负责人谈2025年IMO
前Google DeepMind AlphaProof项目联合负责人Rishi Mehta发布关于2025年IMO结果的分析。今年OpenAI和Google DeepMind双双宣布达到金牌水平，解法各有特点。Mehta预测前沿大语言模型明年或开箱即用获奖牌，未来6个月内或攻克非平凡开放数学问题。
Anthropic 产品负责人：PRD 已死，原型万岁
Anthropic Claude Code 产品负责人 Cat Wu 指出，模型指数级进化，产品团队工作方式需重建。PM 不再写 PRD，而做原型、写 eval，团队用 Side Quest 机制，各角色工作本质合流。
大语言模型 + 编程智能体 = 安全噩梦
作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。
Codex 负责人：「所有人都是 builder」是个很糟糕的主意
OpenAI Codex 团队负责人 Andrew Ambrosino 认为，AI 时代产品开发各环节发生变化，实现成本降低，品味变得更重要。他还谈到岗位角色融合但 PM 不会消失，以及 Codex 发布时机和工作模式等问题。
快手高级副总裁盖坤兼任可灵AI技术部负责人
8月15日，快手发布组织架构调整公告，高级副总裁盖坤兼任可灵AI技术部负责人。他科研实力强，带领团队推出可灵AI。该模型迭代超30次，有大量用户和企业客户，战略地位不断提升。
谨慎用OpenClaw：上海科技大学发布其全面安全体检报告
上海科技大学联合上海人工智能实验室对爆火的智能体OpenClaw做安全审计，在34个测试场景中，整体安全通过率58.9%，暴露出多方面问题，研究据此给出纵深防御策略。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 发文警告，基于 MCP 构建的 AI 开发工具存在安全漏洞，如凭证泄露、代码执行等。MCP 协议发展快但部分实现有隐患，Docker 分析发现诸多漏洞，还提出强化方法应对。