「安全研究」共找到 2748 篇相关文章
现实版“盗梦空间”？欧洲极客论文全网爆火，一战戳破三大巨头安全神话，35万机密在公网裸奔
欧洲两位安全研究员的论文《从专有 LLM API 中窃取推理轨迹》爆火。他们揭示 OpenAI、Anthropic 和 Google 用的“无状态架构”有漏洞，能利用小模型解码大模型推理轨迹，导致隐私泄露等风险。
ICML 2025 Spotlight | 谁导致了多智能体系统的失败？首个「自动化失败归因」研究出炉
ICML 2025 Spotlight 论文提出「自动化失败归因」新方向，应对多智能体系统失败难诊断问题。构建「Who&When」基准数据集，设计三种初步方法并评估，虽现有方法表现有限，但此研究意义重大，有望助力打造更可靠系统。
Qwen深度研究一夜升级！可生成网页和音频播客，新模型能认医生手写体
Qwen版深度研究加速进化，增加听觉和视觉输出，可生成网页和音频。改进功能同时更新模型，Qwen3 VL能识别医生手写体。实测新功能表现出色，Qwen3-VL系列更新后性能优异。
网络基础设施如何支撑大模型应用？北京大学刘古月课题组5大方向研究，相关论文入选ACM SIGCOMM 2025
在智能计算和网络演进背景下，北大刘古月课题组聚焦网络研究。其 5 篇论文入选 ACM SIGCOMM 2025，从架构、数据、运维、安全四个维度形成技术闭环，推动新一代网络系统发展。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
AI发布首个全球科学家社区爆火，硅谷投资圈：科技研究领域的「谷歌地图」来了！
O-DataMap，由AI论论全球打造的全球科学家社区爆火，被赞为科技研究领域的「谷歌地图」。它将全球论文实验数据整合到二维坐标系，形成动态「科技地图」，还分三层助力科研决策，本月18号论论全球将直播演讲。
NeurIPS 2025 | ARGRE框架实现高效LLM解毒：自回归奖励引导，安全对齐更快、更准、更轻
北航等机构研究提出自回归奖励引导表征编辑（ARGRE）框架，在LLM潜在表征空间可视化毒性变化路径，实现测试阶段高效“解毒”。实验显示其降低毒性、缩短推理时间，不影响模型能力，优于基线方法。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
3亿美元薪酬被10人拒绝！OpenAI首席研究官一句话引发硅谷史上最疯狂抢人大战
据华尔街日报爆料，Meta小扎开出3亿美元“挖人费”，至少10位OpenAI员工拒绝。OpenAI首席研究官Mark Chen一句话引发抢人大战。Meta超级团队44人中，40%来自OpenAI，50%是华人。小扎承诺算力管够，逼得OpenAI将上线100万个GPU。
Claude Opus 4.7炸场，6美元造《我的世界》，临门AGI前强调安全，打工人却更慌了
Anthropic 发布‘目前最强 Opus 模型’Claude Opus 4.7，能力跃升，在多榜单夺冠。写代码、看图表等能力提升，也有网页搜索等能力下降。还展现出游戏开发实力，同步上线Claude Code新功能，加强安全防护。