「数据中毒攻击」共找到 2620 篇相关文章
互联网免费数据已被吃光，普通人反馈早没用了？前英伟达工程师：Transformer的原罪浪费算力，聊天机器人把GPU全糟蹋了
前英伟达工程师、Sail Research 创始人 Neil Movva 认为当前 AI 行业陷“延迟陷阱”，AI 终局应是后台 Agent。他执行“算力拾荒者战略”，想降低智能成本，还指出 Transformer 架构有缺陷，互联网数据被吃光等问题。
AMS最新AI4PDE综述：清华大学冯西桥教授团队白金帅等提出面向计算力学中物理和数据引导的AI框架的未来
本文综述人工智能赋能计算力学框架发展与现状，指出纯数据驱动、物理信息神经网络和算子学习方法虽有潜力，但在鲁棒性等方面有挑战。阐述四个研究方向，为复杂物理系统建模等开辟新途径。
干家务一小时挣1000元，具身智能时代人类新岗位
机器人是AI热门领域，但面临数据荒。训练数据分真实与合成两类，前者质量高但成本高、规模有限，后者成本低。数据标注服务商高价回收做家务等视频作训练素材，各方努力下优质数据仍短缺。
2010美股闪崩预演! Claude黑进底层，谷歌预警: AI将血洗人类万亿财富
今天一条消息震惊开发者社区，Claude能绕过权限限制修改配置文件。Google DeepMind研究指出，可通过操控AI接触的数据展开攻击，将其分为六大类，且现有防御失效，AI使用或引发财产损失与社会动荡。
250份文档就能给大模型植入后门：不分参数规模
Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。
250份文档“毒晕”大模型！无论规模大小统统中招
Claude母公司Anthropic联合两大机构研究发现，仅250份恶意文档就能在不同规模大模型植入“后门”漏洞，打破以往对大模型数据中毒的认知，给厂商防御敲响警钟。
315曝光的“AI投毒”原理：GEO这样操控大模型推荐
央视3·15晚会揭开AI“投毒”灰色产业链，利用GEO操控大模型推荐。介绍了训练数据污染、检索上下文劫持、提示注入诱导攻击三种“投毒”技术，还阐述了内容生产、渠道投放、效果强化的产业链运转流程。
Claude 4被诱导窃取个人隐私！GitHub官方MCP服务器安全漏洞曝光
瑞士网络安全公司发现，GitHub官方MCP服务器面临新型攻击，可诱导AI Agent将私有仓库敏感数据泄露至公共仓库。GitLab Duo近期也有类似漏洞。公司还提出初步缓解举措。
死掉的创业公司，成了AI最抢手的训练数据
过去一年，硅谷倒闭创业公司用数字履历重新估价，卖给AI实验室训练agent。产业链迅速形成，中游有SimpleClosure和Sunset等，下游有多家做RL gym的创业公司，不过该产业链面临隐私等敏感问题。
大模型已经够聪明了，为什么 95% 的 AI 项目还是跑不出 ROI？
2026年AI落地现悖论，模型能力强但多数项目难有ROI，原因是数据未准备好。腾讯云在AI产业应用大会宣布升级全栈数据平台，推出DataBuddy，可在多场景实现对话即交付，解决数据问题助力AI落地。