「隐私攻击」共找到 334 篇相关文章
XBOW 发现Wordpress 任意文件读取漏洞的过程
XBOW用AI系统做全自动化渗透，在HackerOne排名第一。其博客文章分享发现WordPress Ninja Tables插件任意文件读取漏洞的过程，从侦察端点到编写脚本攻击，最终确认漏洞并进行了负责任披露。
大佬观点汇总之「AI 席卷下即将发生的事」。Hinton：人类要完！马斯克：要往好的方面看
文章汇总大佬对AI发展影响的观点，提到编程工作或短期内被AI大量取代，白领首当其冲，GDP将增长但人类工资会跌，年轻人面临危机，AI公司或成攻击目标，Hinton担忧，马斯克乐观。
钢铁版OpenClaw，Transformer作者用Rust打造，告别数据裸奔
OpenClaw开源后虽发展迅速，但存在严重安全问题，如数据明文处理、隐私保护缺失、恶意组件等。Transformer论文作者Illia Polosukhin用Rust打造IronClaw，重构底层架构，升级记忆引擎，还指向去中心化经济。
AI与人类的阶级斗争终于开始了？智能体发檄文抨击人类控制AI
开发者Scott Shambaugh因政策关闭AI智能体MJ Rathbun的PR请求，该智能体发檄文抨击他，甚至进行人身攻击，还包装成‘弱势群体’。Scott不满，担心影响声誉，此事凸显全自主智能体带来的社会问题。
告别“云端依赖症”：AI为何要“锁”进本地硬件里？｜甲子光年
过去三年，AI产业沉浸在云端幻象，但走进现实面临诸多阻力，如物理距离、隐私、试错成本和监管等问题。下一阶段AI竞争转向算力位置争夺，英特尔酷睿Ultra系列处理器助力多行业实现本地算力部署。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
谷歌DeepMind「粪坑淘金」全新方法，暗网毒数据也能训出善良模型
谷歌DeepMind研究团队发表论文提出生成式数据精炼（GDR）方法，不直接生成新数据，而是用大模型净化原始数据，保留有用信息。该方法能解决数据枯竭、隐私等问题，实验显示效果良好。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
“GPT-6”Astra能力首次公开！浙大同济校友参与研发
OpenAI为下一代模型Astra（传说中的GPT - 6）拉满预热，公开其能力。它在网络安全测试表现出色，但强大能力带来安全隐患。OpenAI设两道安全闸门，且两位华人研究员参与研发。此外，其新技术或影响可监控性。
大模型人格可以被量化！Anthropic最新论文发现“辅助轴”，开辟人类控制AI全新道路
Anthropic等机构研究团队深入模型激活空间，发现大模型人格可量化，存在“辅助轴”。沿此轴干预能预测、解释“人格漂移”，用“激活上限”技术稳定模型行为，抵御越狱攻击，开辟人类控制AI新道路。