「安全研究」共找到 2748 篇相关文章
马斯克xAI联创突然离职了
马斯克xAI联创Igor Babuschkin离职，他将创办风投公司支持AI安全研究。他物理学出身，曾就职DeepMind、OpenAI。xAI同事不舍，此前法律主管也已离职，Grok还曾引发争议。
Synk收购Invariantlabs-AI安全技术的强强联手
2025年6月24日，安全AI软件开发领导者Snyk宣布收购AI安全研究公司Invariant Labs。Snyk CEO称收购增强了抵御新兴威胁能力。Invariant Labs在MCP领域领先，成果丰富，Snyk也有多样产品，合并有望带来1+1>2效果。
英伟达推理服务器被曝高危漏洞，云端AI模型被攻击直接裸奔
安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。
突然爆火！近千人大排长龙安装！有人宣称短短数日已赚26万元！昆明市场有人报价300元；官方发声：警惕安全风险
OpenClaw是一款开源AI智能体，能接管电脑完成多种任务，但安装复杂。这催生“代装AI”生意，有人数日赚26万，腾讯免费安装引千人排队。不过，其部分实例存安全风险，官方提醒防范。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
刚刚，图灵奖2025公布，荣誉属于两位量子信息科学奠基人
美国计算机学会宣布2025年图灵奖授予Charles H. Bennett与Gilles Brassard，表彰他们奠定量子信息科学基础、变革安全通信与计算。他们提出BB84协议，还推动量子隐形传态等研究，影响众多领域。
“中国AI变强，对全球安全反而是一件好事！” DeepMind传记作者：神秘模型Mythos被紧急下架，OpenAI的同款武器却被放了一马
DeepMind传记作者塞巴斯蒂安·马拉比认为，硅谷“谁先造出AGI谁通吃全球”是幻觉，AI虽实际裁员不多，但恐慌感会放大。还指出OpenAI财务窟窿大，中美AI实力均衡利于全球安全，美国政府监管混乱。
2025最大AI赢家的凡尔赛年度总结，哈萨比斯Jeff Dean联手执笔
谷歌由Jeff Dean和哈萨比斯牵头完成2025年AI年度总结与趋势展望报告。报告梳理八大研究方向，展示谷歌在模型能力、产品集成、创造力赋能等多领域进展，强调安全责任与开放合作。
当AI穿上白大褂：医疗智能体正在重构临床工作流
新加坡等多所高校联合发表医疗智能体综述研究。医疗智能体有感知 - 认知 - 行动闭环，能深入临床长链条工作流。综述剖析其架构、协同机制、应用场景与安全挑战，还探讨评估及发展方向。