「安全加固」共找到 905 篇相关文章
AI根本守不住秘密！不依靠大模型的输出过滤才是铜墙铁壁
开发者常把秘密放系统提示词，以为安全。Swept AI和密西根大学团队测试发现，攻击者不断尝试，AI会泄露秘密。多种依赖大模型的防御方案失败，只有输出过滤能零泄露。
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
Anthropic史诗级泄密！全新模型意外曝光：能力碾压Opus 4.6，因太危险被限制发布
Anthropic重大泄密，全新模型“克劳德神话”（Claude Mythos）及Capybara层级曝光。新模型性能超Claude Opus 4.6，但因网络安全隐患大未全面发布，首批仅给安全机构。泄密源于配置失误。
龙虾惨遭卸载，OpenAI 最新博客：Agent 的安全隐患，可能永远无解
OpenAI 博客指出 AI Agent 安全隐患或无解。三大 AI 巨头投入防御，仍难抵攻击，如 OpenClaw 就出现多起安全事故。其根源是大语言模型架构缺陷，不过‘不可解’不等于‘不可控’，业界已有应对策略。
两个95后华人，搞出硬件版Clawdbot，售价1700元
本文介绍硬件版OpenClaw——Distiller Alpha，其核心计算基于树莓派CM5，集成多设备，能和Agent对话，可Vibe coding。量子位采访创始人叶天奇，探讨软硬一体Agent、OpenClaw优缺点、硬件创业等问题。
硅谷AI战火烧进医院！终于可以告别「天书」化验单了
OpenAI和Anthropic的战火燃至医疗领域，OpenAI发布ChatGPT健康，Anthropic推出医疗健康版Claude，还打通数据壁垒，提供个性化健康解答。其还在提升模型能力，保障隐私安全，且各有应用场景。
微软的prompt压缩方案-LLMLingua,开源
使用大语言模型时，提示信息长会致运行慢、费用高、易超限。微软推出的LLMLingua可压缩提示信息，有完整开源。它历经多版本演进，还能用于安全防御，使用简单，值得开发者跟踪。
AI编码工具变 “格式化神器”？Claude CLI半年频当“系统杀手”，多位开发者痛斥：心血都没了！
近日Reddit上一则对Claude CLI的控诉帖引发关注。一位开发者用其清理软件包时，整个Mac系统被清空。类似情况并非个例，‘删库’成AI工具通病，开发者需强化安全操作意识。
GPT-5.2已上线24小时：差评如潮！
OpenAI 十周年推出号称强大的 GPT - 5.2，却差评如潮。它在 SimpleBench 测试结果不佳，回答不稳定，编程和艺术创作效果差，情商低、不通人性，审查和安全拒绝机制也饱受诟病。
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。