「漏洞治理」共找到 309 篇相关文章
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
任何错误只犯一次：TencentDB Agent Memory 的团队记忆实践
文章聚焦 TencentDB Agent Memory 的团队记忆实践，从组织协作现状出发，阐述其原理、结构、构建方法，通过多方面测试验证其价值，提炼出设计原则，指出其核心是治理系统，目标是提升协作带宽。
人类遗忘的难题解法，被GPT-5重新找出来了
GPT-5 Pro从埃尔德什问题定位到关键文献，发现该“未解决”数学难题早在2003年已被解决。此前网友曾热烈讨论此问题，此外，有教授称GPT-5 Pro能快速发现论文漏洞。
《“人工智能+”行动意见》深度解读：从人口红利到智能红利，中国经济社会变革新引擎
《“人工智能+”行动意见》是全面重塑中国经济、社会与治理体系的国家战略。它以应用促创新，定位AI为新质生产力关键引擎，涉及多领域变革，还采取不对称竞争策略，应对国际博弈。
硅谷“甄嬛传”第二季！Ilya 与 Amodei 把 Sam Altman 再次推上审判席
纽约客最新报道重提 2023 年 OpenAI 董事会政变旧案，指出诸多悬而未决问题，如董事赶走 Sam Altman 的原因、科学家 Ilya 态度转变等，揭示 OpenAI 在安全与治理方面的裂缝及 AI 权力集中缺乏约束的困境。
谷歌最新发表的Science论文，颠覆了人类对ASI的想象
谷歌等机构研究者在《科学》发文，提出真正智能爆炸已发生，是多元、社会性且与人类深度缠绕。推理模型内部涌现‘思想社会’，当下人机协作进入‘半人马时代’，还探讨了AI扩展、对齐及治理问题。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
警惕！“养龙虾”风险，一键给你的Openclaw做安全体检
OpenClaw在短时间内登顶GitHub开源榜首，国内企业纷纷部署。但它存在安全隐患，如漏洞、隐私风险等。朱雀实验室联合腾讯云EdgeOne推出「OpenClaw安全体检」功能，可自动完成全面体检与风险评估。
对话张笑宇：一个科技史学者选择成为“AI降临派”｜甲子光年
科技史学者张笑宇成“AI降临派”。他以“人类当量”和成本说明人类与AI的能力代差，提出全新治理架构，还谈AI应用困境、情感陪伴风险等，认为人类要与AI商定未来。
OpenAI Sora 2 登场！同步推出APP，Altman称这是创意领域的「ChatGPT 时刻」
OpenAI官宣新一代AI视频模型Sora 2，在物理准确性、逼真度等方面刷新SOTA，实现「音画同步」。Altman称其为创意领域的「ChatGPT时刻」。还推出Sora App，有新玩法，且在安全治理上布下「安全网」。