开源动态7

提示词注入攻击检测与防护

AI与安全2025-05-15

AI 摘要

孙志敏：提示词注入攻击危害大，被OWASP列为2025年大模型应用风险首位。Meta发布测试数据集，有多个工具和数据集可评估。防护用AI防火墙，Meta开源小模型，要权衡安全性与实用性。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Cloudflare CEO：五年后机器流量千倍于人

本文整理自The Verge《Decoder》播客对Cloudflare CEO的访谈，披露今年5月互联网自动化流量已超过人类流量，预测五年后将达千倍，讨论AI时代互联网新商业模式、内容付费、AI爬虫拦截等热点议题。

本文作者实测Claude Opus5.5的视频制作能力，除人工配音外，分镜、动画、音效、配乐全靠代码完成，对比GPT-6 Astra展示各环节提升，验证大模型全流程做视频的可能性。

本文报道AI初创公司TypeSafe AI发布的模型Jev上线仅9天，就传出投资者给出超百亿美元估值，剖析资本追捧低价薄利模式的原因，同时梳理业内对其护城河的质疑，探讨大模型赛道资本动向。

本文围绕GPT-6 Astra发布后的行业测试展开，讨论通用大模型能否成为机器人的通用大脑，分析了通用大模型参与机器人控制的原理与优势，点明当前能力边界，提出了分工协作的落地方案。