「文献投毒」共找到 55 篇相关文章
AI时代已来，魔幻的大模型投毒事件，我们怎么应对？
央视315晚会曝光针对大模型的蓄意信息围猎，虚构手环经力擎系统包装成科技尖货。黑产靠此吸金，利用技术污染证据链。多方已行动，厂商需提升安全能力，消费者要保持警惕。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
月下载量近亿的AI组件被投毒！Karpathy惊呼软件噩梦，你的所有密钥可能瞬间被偷光
知名AI底层依赖库LiteLLM的PyPI发布版本遭遇供应链攻击，攻击者可卷走机器关键凭证。其月下载量近亿，传染性强。虽带毒版本很快被发现，但凸显供应链攻击风险，让Karpathy改变软件工程观念。
每个人的AI科学助手！全球首个通用科学智能体来了，全网资源+1.7亿学术文献让科研效率狂飙
全球首个通用科研智能体SciMaster在WAIC亮相，由上海交大与深势科技共同发布。它能结合全网资源和1.7亿科学文献，有深度调研等功能，免费且可用于工作生活多方面，还将重塑科研范式。
4.2w颗星！学术科研 AI 工作流
这是一套有4.2w颗星的学术研究技能包，涵盖研究到论文出版全流程。它不替写论文，接手搜文献等杂事。有四个核心skill，支持多文献引用格式，能编译成PDF，还介绍了安装和使用方式。
一篇200+文献的视觉强化学习技术最新综述
NUS、浙江大学和香港中文大学对强化学习与视觉智能交叉领域进行系统梳理，归纳200余篇工作为四大主题支柱，剖析算法等进展，提炼关键趋势，还介绍LLM的RL方法、视觉RL阵地等。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
AI邪修时刻！Meta联手MIT投毒，左脚踩右脚强行升天
Meta的SOAR架构用错误率高的数据让模型推理能力暴涨9.3%。它选难题子集，用‘教师模型’生成含错题的‘垫脚石问题’，通过‘双层博弈’和‘有根奖励’机制让模型进步，或成AI进化新方向。
搜索已死？被AI投毒搞怕了的我开始重新看待百度
作者辅导孩子背诗遇读音疑问，问AI结果更懵，百度则给出清晰准确答案且标注来源。原因在于AI基于大模型‘概率预测’易‘编答案’，百度用‘双层Agent’架构结合内容治理，答案更靠谱。
连Karpathy都怕了！9千万级AI包被投毒，竟靠黑客写出bug救命
3月24日，AI应用核心工具LiteLLM更新版本含恶意代码，可窃取开发者核心信息。因攻击者代码有bug致机器崩溃才暴露。这引发AI基础设施信任危机，Karpathy称要减少依赖。