「检测框架」共找到 1815 篇相关文章
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
Helidon 引入 Agent 能力，Java 框架开始内建 AI 编排
Oracle 发布 Helidon 4.4.0 版本，对齐 OpenJDK 发布节奏，纳入 Java Verified Portfolio。引入新核心能力、Helidon JSON 库，还增强与 LangChain4j 集成，支持智能体编排。
下载量超 1300 万，昇思 MindSpore：AI 框架迈入“超节点时代”
开源五周年，昇思 MindSpore 成绩亮眼，下载量超 1300 万。它完善大模型、部署、科学计算等核心能力，还提出 HyperParallel 架构应对新挑战，正式版及套件明年上半年发布，未来社区将多方向推进。
搜索智能体也需要「操作系统」：SearchOS 开源多智能体协作框架
人大和蚂蚁的 SearchOS 研究，给出搜索智能体在长程任务中问题的答案。它借鉴数据库理念，做了多项核心设计，在开放信息检索基准评测领先，已提供多种使用方式，值得长程调研尝试。
AI精准编辑门槛大降：开源框架提升编辑一致性，即插即用
近日，中山大学、香港中文大学等团队发布研究成果ProEdit。它通过对注意力机制和初始噪声潜在分布处理，实现高精度图像与视频编辑，无需训练、即插即用，解决编辑效果与一致性平衡难题。
最低 306KB，这款低延迟语音检测神器太绝了！
语音交互中，VAD至关重要。新开源的TEN VAD能精准识别语音起止，是替代WebRTC VAD和Silero VAD的优选。它低延迟、高准确率、极致轻量，已被Kaldi集成，还能跨平台部署，使用方便。
终结数据荒！智源开源首个Deep Research数据合成框架InfoSeek
在大模型深度研究中，高质量数据是短板。近日，智源研究院发布首个面向深度研究的开源数据集InfoSeek，提出「扩散 - 回溯」数据合成方法，用3B模型在基准测试中接近商业模型表现，且数据集可扩容。
RAG终极框架！港大开源RAG-Anything：统一多模态知识图谱
香港大学黄超教授团队发布开源项目RAG - Anything，构建统一多模态知识图谱架构，解决传统RAG技术局限。它能处理多类型异构内容，提供端到端方案，有多种优势及应用模式，还给出部署指南和未来展望。
Claude 和 Manus 还要人工搭框架？小米直接让 Agent 自我进化
6月12日小米Darwin Agent Team发布论文《HarnessX》，用“系统自进化”终结Harness人工调优时代，带来性能跃升。其让Harness成为“一等公民”，有可组合等特质，还能与模型协同进化，虽有局限但成热门方向。
同一个模型，换套框架成绩差27%：SWE-bench分数到底谁说了算？
编程Agent评测是笔糊涂账，SWE - bench虽成事实标准，但分数不适合直接横向比较。基元律动等机构发布Claw - SWE - Bench基准，将模型、harness和任务集拆分，通过实验揭示harness对成绩影响大，还解决通用Agent评测问题，推出低成本Lite版。