搜索：数据质量评估

「数据质量评估」共找到 3460 篇相关文章

教多模态大模型学会“反思”和“复盘”，上交&上海AI Lab重磅发布MM-HELIX&AHPO，破解多模态复杂推理难题

上海交通大学和上海人工智能实验室研究团队带来MM - HELIX，这是完整生态体系，赋予AI长链反思性推理能力。其含基准测试、数据集、优化算法，搭载相关技术的模型表现优异，部分成果已开源。

近日，多机构联合发布统一多模态生成编辑模型DeepGen 1.0，仅5B参数，集成五大能力，4060ti 16G上10秒出图，多项指标超大4倍工业级模型。团队开源全流程代码与数据，可从零复现。

三年多前ChatGPT发布，教育改变。曾寄望用AI检测器识别生成文本，但学生易规避。检测难维持信任，还可能惩罚错对象。生成式AI可提升学习，应构建新评估模型，如展示真实理解等。

美国网络安全巨头CrowdStrike与Meta在Fal.Con 2025大会联合推出开源基准测试套件CyberSOCEval，旨在评估AI大语言模型在真实SOC环境下的网络安全能力，它源于Meta之前框架，开源供全球开发者使用。

上海人工智能实验室等团队研究指出，“SFT泛化能力差”定论有局限。SFT泛化能力受优化过程、数据质量与结构、模型基础能力共同制约，研究还揭示其训练中的现象及副作用。

腾讯混元团队开源PromptEnhancer框架，通过“思维链提示重写”提升AI绘画文本 - 图像对齐精度，复杂场景准确率提升17%以上。还开源高质量基准测试数据集，为研究提供支撑。

AIGC技术发展使AI图像滥用问题严重，公众面临信任危机。上交与上海AI Lab等团队在论文中从构建数据集、设计模型、实现检测与生成统一三方面破局，LEGION能检测伪造，还可反哺生成模型进化。

论文提出SearchAgent-X框架解决AI搜索智能体效率难题。研究剖析效率瓶颈，发现精度和延迟问题，提出优先级感知调度与无停顿检索技术，经评估大幅提升性能且不牺牲答案质量。

随着文图生成模型广泛应用，其安全防护机制有限。ICCV 2025上，港科、牛津大学推出AlignGuard，是文图生成模型可规模化安全对齐框架，通过生成CoProV2数据集等实现安全对齐，实验效果佳。

深度生成模型内部运作如「黑箱」，潜变量意义难捉摸。埃默里大学团队提出LatentExplainer框架，经数据扰动、智能提示、不确定性评估三步，为潜变量生成易懂解释，提升模型解释质量与可靠性。