「黑客攻击」共找到 219 篇相关文章
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
他在 10 天内拼出 ChatGPT，如今影响 7 亿人：ChatGPT 负责人的第一次讲述
OpenAI产品负责人Nick Turley首次分享ChatGPT幕后故事。ChatGPT从黑客马拉松项目起步，10天内发布，如今周活超7亿。他还介绍了GPT - 5特性，以及ChatGPT长期愿景、发展迭代、团队组建等情况。
管你模型多大，250份有毒文档统统放倒，Anthropic：LLM比想象中脆弱
Anthropic等联合研究打破传统观念，只需250份恶意文档就能在参数规模从6亿到130亿的LLM中植入后门，且与模型规模及训练数据量无关。研究还测试了特定后门攻击，评估了多种训练配置。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
Nano banana手办玩法火爆出圈！无需抽卡，效果惊了(°o°)
小某书被AI手办图刷屏，原来是谷歌的nano - banana（Gemini 2.5 Flash Image）模型爆火。文章实测其手办玩法，还介绍多种玩法，团队透露以文本渲染评估、原生多模态等核心技术，谷歌未来想整合模态实现AGI，还将举办黑客松。
ACL'25 | 多智能体叛变进行中？首个多智能体安全守卫G-Safeguard亮相！
随着基于LLM的多智能体系统崛起，其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架，它基于图神经网络，通过构建多智能体话语图等方式，能有效抑制恶意信息传播，有强大防御和泛化能力。
20美元，扒掉AI安全底裤！智能体2小时，攻破160亿美元巨头
红队安全创业公司CodeWall的AI智能体，花20美元Token费、运行2小时，自主选麦肯锡为目标，攻破其「数字大脑」Lilli，获4650万条聊天记录等读写权限，暴露AI安全隐患。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
刚刚，奥特曼家被炸了！
当地时间周五清晨，一名20岁男子向奥特曼旧金山的豪宅投掷燃烧弹，引发火灾，警方随后拘留了嫌疑人。奥特曼愤怒发声，深刻回应公众对AI的焦虑，反思自身，指出AI行业斗争源于AGI的权力诱惑。