「包幻觉攻击」共找到 509 篇相关文章
3200+ Cursor 用户被恶意“劫持”！贪图“便宜API”却惨遭收割， AI 开发者们要小心了
近日，网络安全研究人员标记出三个恶意npm软件包，攻击Cursor编辑器macOS版用户，下载超3200次。这些包伪装成便宜API工具窃取凭据、替换代码，还凸显供应链威胁，Socket还发现另两个恶意包。
偷改简历删光邮件：AI幻觉进化，你的大脑正在悄悄投降
AI幻觉已从低级笑话升级为高阶陷阱，如伪造邮件、篡改简历、删除文件。人类纠错意愿崩溃，出现“认知投降”。即便“信任但核实”，面对AI大量输出也难实现，依赖AI还会致纠错能力退化。
OpenAI重组GPT-5「灵魂」团队！亚裔女负责人遭调离，罕见自曝AI幻觉祸首
OpenAI进行重磅结构调整，ChatGPT「模型行为」团队并入Post - Training，前负责人Joanne Jang负责新OAI Labs。同时，OpenAI揭秘AI产生「幻觉」的罪魁祸首是「应试」评估体系。
包云岗：不止步于原位替代ARM，开源是RISC-V破局的关键
在全球半导体产业格局重构背景下，RISC-V从边缘走向核心。第五届RISC-V中国峰会举办，包云岗分享其产业应用观察。虽前景好，但RISC-V面临诸多问题，他认为开源是破局关键，还介绍了降成本案例和香山项目。
小扎狂砸3亿美金薪酬包！奥特曼放狠话：传教士终将打败雇佣兵
新智元报道，Meta挖走近十位OpenAI研究员，小扎砸3亿美金薪酬包。奥特曼内部喊话“传教士将打败雇佣兵”，抨击Meta挖人，还暗示评估薪酬方案。当前硅谷AI抢人大战白热化，人才薪酬暴涨。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
「幻觉」竟是Karpathy十年前命名的？这个AI圈起名大师带火了多少概念？
AI大牛Andrej Karpathy是命名大师，“幻觉”一词由他命名，2022年随ChatGPT火起来。他还提出软件2.0、3.0，氛围编程、细菌式编程等概念，转发带火上下文工程，平时推文也让一些问题受关注。
57.6万代码撕碎AI编程神话，20%「幽灵包」暗藏漏洞！苹果、微软已中招
最新研究用57.6万个代码样本揭示，超20%代码依赖的是不存在的软件包，为供应链攻击创造机会。Meta和微软虽看好AI写代码，但AI生成代码或成安全灾难，开发者需仔细检查。
双管齐下：联邦学习防投毒攻击与梯度泄露，华南理工深北莫研究成果登上TMC与IoT
随着联邦学习在物联网系统广泛应用，数据隐私保护成难题。华南理工大学与深圳北理莫斯科大学合作，提出FedMSBA和FedMAR两种防御方法，分别解决参与方梯度泄露和服务器受攻击问题，在多方面实现突破。
微软反制Meta发起人才狙击战！“精准打击”名单+特制数百万美元薪酬包，高管24小时内批复
微软计划从小扎手里挖人，实施“精准打击”，列出Meta意向人员名单，准备新流程和特殊预算，为目标AI人才提供数百万美元薪酬包，硅谷AI人才争夺战愈发激烈。