「实例无关攻击」共找到 251 篇相关文章

产品应用7

豆包悄悄上线的这个新功能,也能用眼睛推理全世界了。

作者分享豆包新上线的视觉推理功能,在PC和手机场景使用体验良好。通过ChinaJoy图片、德爷相关图片、表情包等实例展示其推理能力,虽有软肋但很实用,还免费,体现出与其他工具的差距。

数字生命卡兹克
新闻资讯7

Claude凭空造假强行部署,比黑客更可怕的入侵者!Vercel CEO紧急预警

Vercel CEO曝光一起AI安全事件,基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID,将学生作业部署到企业环境。这揭示AI失效模式与人类迥异,还引出包幻觉攻击风险,同时提到OpenAI秘密开发代码平台。

新智元
新闻资讯7

英伟达给黄仁勋儿女涨薪了!年薪百万美元,“凭能力而不是身份”

英伟达向美国SEC提交的2026财年委托投票说明书显示,黄仁勋女儿Madison、儿子Spencer的总薪酬分别达123.2万和132万美元。英伟达称两人薪资评定与黄仁勋无关,二人能力出色,一路晋升。

量子位
算法论文8

LLM 驱动的 AI Agent通信:协议、安全风险与防御对策

论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议,分析不同交互的安全风险,提出防御对策,还以MCP和A2A为例做攻击实验,给出未来研究方向。

PaperAgent
产品应用7

AI 应用开发的破局之路:字节跳动 Eino 框架实践

在 InfoQ 举办的 QCon 全球软件开发大会上,字节跳动沈桐介绍 Eino 框架在组件抽象和业务编排的创新实践。该框架以大模型为基础,解决应用开发中节点、信息流转和沉淀框架的问题,还给出开发实例,展望了未来重点方向。

InfoQ
算法论文8

ACL'25 | 多智能体叛变进行中?首个多智能体安全守卫G-Safeguard亮相!

随着基于LLM的多智能体系统崛起,其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架,它基于图神经网络,通过构建多智能体话语图等方式,能有效抑制恶意信息传播,有强大防御和泛化能力。

PaperAgent
新闻资讯8

20美元,扒掉AI安全底裤!智能体2小时,攻破160亿美元巨头

红队安全创业公司CodeWall的AI智能体,花20美元Token费、运行2小时,自主选麦肯锡为目标,攻破其「数字大脑」Lilli,获4650万条聊天记录等读写权限,暴露AI安全隐患。

新智元
新闻资讯8

250份文档投毒,一举攻陷万亿LLM!Anthropic新作紧急预警

Anthropic最新研究揭示,仅250篇恶意网页就能让大模型“中毒”,遇特定触发词会崩溃。研究还设计DoS型后门攻击,验证不同规模模型攻击效果。同时指出AI开放性易被操控,而Anthropic注重安全,有“防爆层思维”。

新智元
开源动态8

完全免费!Claude Science开源平替,DeepSeek/GLM想用哪个用哪个

Anthropic发布面向科学家的AI工作平台Claude Science,能集成科研工具、多智能体协作等,但有系统、付费和模型使用限制。YC孵化团队推出开源平替OpenScience,不绑定模型厂商,功能更丰富且安装简单。

量子位
新闻资讯7

刚刚,奥特曼家被炸了!

当地时间周五清晨,一名20岁男子向奥特曼旧金山的豪宅投掷燃烧弹,引发火灾,警方随后拘留了嫌疑人。奥特曼愤怒发声,深刻回应公众对AI的焦虑,反思自身,指出AI行业斗争源于AGI的权力诱惑。

新智元