「安全专家离职」共找到 1499 篇相关文章
AI根本守不住秘密！不依靠大模型的输出过滤才是铜墙铁壁
开发者常把秘密放系统提示词，以为安全。Swept AI和密西根大学团队测试发现，攻击者不断尝试，AI会泄露秘密。多种依赖大模型的防御方案失败，只有输出过滤能零泄露。
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
一年一度最值得关注的AI榜单来啦！申报即日启动
时值第四届中国AIGC产业峰会，量子位将评选2026年度值得关注的AIGC企业和产品，结合调研与专家意见，结果5月峰会公布。企业和产品有参选条件与评选维度，报名4月27日截止。
Anthropic史诗级泄密！全新模型意外曝光：能力碾压Opus 4.6，因太危险被限制发布
Anthropic重大泄密，全新模型“克劳德神话”（Claude Mythos）及Capybara层级曝光。新模型性能超Claude Opus 4.6，但因网络安全隐患大未全面发布，首批仅给安全机构。泄密源于配置失误。
龙虾惨遭卸载，OpenAI 最新博客：Agent 的安全隐患，可能永远无解
OpenAI 博客指出 AI Agent 安全隐患或无解。三大 AI 巨头投入防御，仍难抵攻击，如 OpenClaw 就出现多起安全事故。其根源是大语言模型架构缺陷，不过‘不可解’不等于‘不可控’，业界已有应对策略。
多模态Deep Research，终于有了「可核验」的评测标准
俄亥俄州立大学与 Amazon Science 等联合发布 MMDR - Bench，将多模态 Deep Research 评估拉到可核验标准。它含 140 个专家任务，覆盖 19 领域，把评估拆成 3 段管线、12 指标，强调过程证据链。
全国首部“AI生成内容合规”标准，欢迎加入起草！
随着AIGC转向产业落地，监管加强，但AI生成内容风险仍凸显。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，提供落地方案，现公开征集起草单位与专家。
两个95后华人，搞出硬件版Clawdbot，售价1700元
本文介绍硬件版OpenClaw——Distiller Alpha，其核心计算基于树莓派CM5，集成多设备，能和Agent对话，可Vibe coding。量子位采访创始人叶天奇，探讨软硬一体Agent、OpenClaw优缺点、硬件创业等问题。
解决智能体手工构造难题！ 浙大&腾讯提出 ReCreate，从零自动构建领域智能体
浙大、腾讯等机构研究者提出ReCreate框架，不依赖手工设计，让智能体自主构建。它从交互经验中找优化方向，有三重设计，实验显示能提升多领域任务通过率、降成本，未来或开启AI“自我制造”时代。
烧2万亿美元却难用？Gary Marcus狂喷AI赛道不靠谱：推理模型只是“模仿秀”，OpenAI一年后倒闭？
知名AI专家Gary Marcus在访谈中称，世界在神经网络投入巨资，但大语言模型无法实现AGI目标。他指出其推理模型是“模仿秀”，会出现幻觉，还预测OpenAI或被微软收购。