搜索：通用自适应攻击框架

「通用自适应攻击框架」共找到 987 篇相关文章

上海交大/上海AI Lab翟广涛：当评测不再重要，AGI就实现了

上海交通大学教授翟广涛认为完美的AI评测体系等同于通用人工智能。当下评测体系存在数据污染、原子化能力评测局限等问题，他主张回归‘以人为本’，团队提出相关框架和技术路径，目标是训评一体。

大语言模型有「记忆」缺失问题，国内顶尖团队打造出操作系统级AI记忆框架MemOS并开源且可商用。它将「记忆」升为「一级资源」，用MemCube封装记忆，评测显示性能优于OpenAI全局记忆方案。

南京大学团队系统介绍表格表示学习领域，将现有方法按泛化能力分三类，比较DNN与树模型优劣，剖析核心挑战，探讨扩展方向及数据集评估策略，旨在建跨数据集稳健评估体系。

在生成环境中，传统文本分类方法新增业务标签需从头训练，易致知识灾难性遗忘。今天介绍的自适应分类器，通过四项创新，可实现动态类添加和持续学习，而不会发生灾难性遗忘。

大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。

文章深入解析iMeanAI的WebAgent后训练技术，指出当前AI Agent落地存在从‘理解’到‘执行’的困境。通过两个极限任务展示其能力，介绍核心技术架构和后训练进化引擎，还提及该技术带来的自由体验，其1.0版本已公测。

CourseAI介绍PP - StructureV3实战、能力、性能与架构。它在通用版面解析等方面能力强，更新PP - OCRv5提升准确率，超主流OCR方案，轻且速度快，但遇特殊情况需重新训练。

北京时间5月21日凌晨，谷歌在2025 I/O大会发布众多更新。模型层面，为Gemini 2.5 Pro引入新推理模型和2.5 Flash；谷歌搜索推出AI模式；还亮相视频模型Veo 3，编码助手Jules公测等。

大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。

格灵深瞳等团队联合发布通用多模态嵌入新框架UniME，刷新MMEB训练榜纪录。它是两阶段框架，经文本判别知识蒸馏和困难负样本增强指令微调，在多任务达SOTA，项目已开源。