开源动态7

提示词注入攻击检测与防护

AI与安全2025-05-15

AI 摘要

孙志敏：提示词注入攻击危害大，被OWASP列为2025年大模型应用风险首位。Meta发布测试数据集，有多个工具和数据集可评估。防护用AI防火墙，Meta开源小模型，要权衡安全性与实用性。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

阿里云平台完成 DeepSeek Harness 评测

本文分享基于阿里云 AgentLoop 平台的 DeepSeek Harness 评测实践。介绍了 DeepSeek Harness 工程架构，阐述 AgentLoop 平台接入方式及价值，还详述评估器设计思路、展示评测结果，最后总结方法论并展望后续工作。

过去一年AI进入RSI时代，但评测方式仍停留在过去。MirroS联合多方发布HarnessEval，将Harness引入评测领域，使评测成为具备自我进化能力的智能系统，还率先应用于交互式世界模型评测。

近期，DeepSeek上调API价格，V4 Pro等型号涨幅明显；而OpenAI的GPT - 5.6 Luna API价格降80%，Terra降20%。这背后是大模型价格竞争方向转变，受竞争、广告、效率及Agent使用方式等因素影响。

Meta推出Muse Code编码框架及Muse Spark 1.2模型，有不同输入输出、功能和性能表现。提供不同档位价格，贡献者档位低价但数据用于训练。测试显示其单任务成本低，Meta此举或为获取编码训练数据。