搜索：实例无关攻击

「实例无关攻击」共找到 248 篇相关文章

月下载量近亿的AI组件被投毒！Karpathy惊呼软件噩梦，你的所有密钥可能瞬间被偷光

知名AI底层依赖库LiteLLM的PyPI发布版本遭遇供应链攻击，攻击者可卷走机器关键凭证。其月下载量近亿，传染性强。虽带毒版本很快被发现，但凸显供应链攻击风险，让Karpathy改变软件工程观念。

近日，清华大学和蚂蚁数科在NeurIPS上联合提出Dual - Flow新型对抗攻击生成框架。它能从海量图像数据学“通用扰动规律”，对多模型、多类别发起黑盒攻击，为AI安全带来挑战，已用于蚂蚁数科产品。

4月17日上线的Claude Design让Figma股价当天跌近7%。前有Anthropic CPO辞掉Figma董事职务，后新产品登场，一气呵成。Claude Design让非设计师出视觉稿，Anthropic意在打造从想法到上线产品的闭环，或让“中介型SaaS”失势。

3月24日，LiteLLM的PyPI发布页面出现恶意版本，1.82.7和1.82.8被嵌入恶意代码。恶意代码会收集敏感文件、外传信息、进行横向移动。文章还给出检查、处理方法，此事件给开发者提了醒。

前OpenAI联合创始人Andrej Karpathy警示业界重视模型框架。Hugging Face实验表明优化模型外层执行机制可大幅提升Agent性能，Karpathy开源项目揭示AI价值在循环迭代。还介绍了搭建持续进化Agent的方法及注意事项。

安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。

谷歌大佬 Steve Francia 结合自身经历，指出技术选型常受身份认同等非技术因素影响。如早期创业公司因 CTO 执意换语言错失市场，谷歌团队跟风选 Rust。还分析了背后原因及代价，并给出破局建议。

WizardLM项目创建者徐灿发文称团队离开微软加入腾讯混元。混元此前发布多款AI模型，WizardLM也发布过混元模型。该团队专注高级大语言模型开发，曾成绩斐然，但也面临模型部署挑战。腾讯大力投入AI，网友对此看法不一。

OpenAI宣称其下一代AI模型推翻了Connes刚性猜想，第二天堪萨斯大学的J. L. Nielsen就发文回应，指出AI构造的群不满足附加条件，还逐行核对代码指出‘要证什么’有问题，强调人类审查对AI科研结果很关键。

近日，网络安全研究人员标记出三个恶意 npm 软件包，攻击 Cursor 编辑器 macOS 版用户，超 3200 次下载。这些包伪装提供‘最便宜 API’窃取凭据、替换代码，还凸显供应链威胁。