搜索：开源攻击框架

「开源攻击框架」共找到 4263 篇相关文章

OpenAI为龙虾紧急收购了一家23人公司

OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。

文章聚焦 MemOS 开源框架，深入体验其记忆“图谱”能力，探讨将它集成到基于 LangChain1.x 框架构建的智能体的方法。介绍了基于记忆“图谱”构建 ChatBot、体验记忆“图谱”自动重组，以及集成到 LangChain 智能体等内容。

为解决基础模型在专业领域表现不佳、依赖人工标注数据的难题，北大、MIT等机构提出「合成数据强化学习」框架。该框架仅需任务定义，能生成合成数据微调模型，在多领域基准上性能提升显著，代码已开源。

音频驱动人体动画技术有局限，阿里夸克团队推出OmniAvatar模型。它用逐像素多层次音频嵌入和LoRA训练法，解决唇动同步等问题，适用于多领域，但也存在颜色偏移等不足。

OpenHuman 是 tinyhumansai 团队构建的开源桌面 AI 智能助手，采用 GNU 许可证开源。它解决了 AI 助手失忆、集成碎片化等痛点，有记忆树、TokenJuice 等技术，目前在开源社区反响大。

研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。

Decagon CEO Jesse Zhang 提出新观点，未来 AI 会形成产业分工，闭源负责探索，开源负责规模化生产。企业市场开源模型 LLM 支出占比下降，因多数企业处探索阶段，还分析了未来 AI 行业的重要变化。

LiveCodeBench Pro团队推出AutoCode框架，利用LLM自动化竞赛编程问题创建与评估。该框架结合验证器 - 生成器 - 检查器框架与双重验证协议，在测试用例生成上可靠性佳，还能生成新问题，同时揭示了LLM在创作上的优劣势。

Automat 目标是半自主玩各种游戏，是构建通用计算机交互环境首步。目前功能限于键盘宏录制和回放，不稳定。它是进行中的项目，路线图有激进新功能。文中介绍下载、运行方法及项目地址。

AIO Sandbox是开源全合一智能体沙箱，将浏览器、Shell等整合到同一容器，提供统一安全开发执行环境。解决传统沙箱问题如文件共享难，有统一文件系统等优势，文中介绍其安装、用法、特性等。