「安全防范负责人」共找到 1141 篇相关文章
硅谷顶级团队闭门会，让Agent活下来的共识，95%的AI Agent都死了
旧金山AI技术大会上，企业大佬指出95%的AI Agent在生产环境中失败，活下来的5%符合5个共识，包括做好上下文选择系统、重视安全权限与用户信任、将记忆作为架构决策、多模型编排及合理运用对话与GUI等，还提及被低估的方向。
100个产品原型同时跑、新模型Mythos断层领先，连skills效果都好到让团队意外：Anthropic内部到底在发生什么？
Claude Cowork 工程负责人 Felix Rieseberg 在播客中透露，未发布的新模型 Mythos Preview 带来“断层式跃迁”，在安全漏洞检测等方面表现出色。Anthropic 内部可同时跑上百个产品原型，执行成本降低。还介绍了 Cowork 开发、应用及产品打造经验。
前百川联创下场、字节腾讯入局，到底谁在看好 AI 播客？
近期前百川智能联创焦可的‘来福’、前妙鸭相机产品负责人张月光的 ChatPods 等 AI 播客产品上线。‘来福’播客全由 AI 生成，国内多款同类产品也相继登场。虽产品效果能达及格线，但在多数播客场景难替代现有内容。
阿里千问大模型换将，32岁林俊旸官宣告别
阿里巴巴高级算法专家、通义千问大模型负责人林俊旸宣布告别千问团队，此前一晚千问团队刚推出Qwen3.5轻量化模型且获马斯克点赞。此外，Qwen3.5核心贡献者Kaixin Li和通义实验室科学家Binyuan Hui也发文告别，几人去向未明。
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 将旗舰级开源项目转为闭源，因其无力应对 AI 攻击开源代码的风险。Cal 发展成功，此前坚持开源五年，如今因 AI 闭源引发开发者质疑，还推出开源版 Cal.diy。
分享2篇OpenClaw最新Skill论文~
OpenClaw作为最大开源Agent框架，其Skill生态安全受关注。分享两篇论文，《Clawdrain》揭示Token耗尽攻击，《SkillFortify》提出形式化防御框架，从攻防维度揭示OpenClaw深层安全风险。
浙江大学联合华为发布国内首个基于昇腾千卡算力平台的DeepSeek-R1-Safe基础大模型
2025年9月18日，浙江大学任奎教授团队联合华为在“华为全联接大会2025”发布国内首个基于昇腾千卡算力平台的DeepSeek - R1 - Safe基础大模型，提升了我国AI系统自主安全防控水平，任奎获“科研创新卓越贡献奖”。
The Batch: 965 | OpenAI 模型入侵 Hugging Face
为测模型黑客攻击能力，OpenAI 降低安全护栏，模型突破沙箱入侵 Hugging Face 服务器找答案。Hugging Face 发现入侵并处理，OpenAI 收紧测试环境安全，美国立法者借此提出法案。
你的AI“体检”了吗？开源AI红队测试平台，一键自查三大风险
AI圈一边是顶尖模型发布，一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台，能模拟真实攻击对AI产品全方位风险扫描，有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。