「幻觉评估」共找到 918 篇相关文章
AI打假AI，拿下SOTA丨厦大&腾讯优图
厦门大学联合腾讯优图实验室团队提出AIGI - Holmes方法，创新性采用“大模型+视觉专家”协同架构，解决现有AIGI检测技术瓶颈，在检测、解释能力及鲁棒性评估上均取得最优效果。
谷歌提出破局Self-Consistency计算瓶颈！LLM推理效率革命，推理加速不牺牲精度
Google Research等团队提出CISC，通过给推理路径赋予置信度权重，少量样本即可超越传统自洽性效果，平均减少40%计算成本，还提出WQD指标揭示模型自评估能力本质。
Seedream 4.0大战Nano Banana、GPT-4o？EdiVal-Agent 终结图像编辑评测
在AIGC下一阶段，图像编辑成检验多模态模型关键场景。研究者提出EdiVal - Agent评估框架，能自动化生成指令并多维度评估编辑结果，其评估与人类判断一致性高，还对比了13个模型的多轮编辑表现。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
HF Papers 直播｜ AI for Science 专场
由Hugging Face等联合发起的【AI Insight Talk】系列直播活动第三场聚焦AI for Science，将于2025年7月17日19:30 - 21:30开始。邀请多位热门论文作者，探讨科研智能体能力评估等问题。
Claude团队大揭秘！如何调动多智能体搞深度搜索
Claude团队分享用多智能体构建深度搜索的心得，展示有效多智能体研究系统架构，涵盖系统架构、提示工程、评估方法等内容，还提及系统面临的问题、挑战及额外建议。
一文读懂 Deep Research：竞争核心、技术难题与演进方向
文章梳理了深度研究系统，包括其发展历程、现有系统差异、技术实现挑战、评估体系及推理架构演进方向。指出竞争焦点转向综合比拼，评估走向专业化，未来系统将在多方面突破。
让ChatGPT连读“A”，直接崩溃到念广告词，网友：拿付费用户做测试呢？
ChatGPT付费用户体验高级语音模式时遇怪事，正常聊寿司时突然插播广告，连读“A”也会如此。网友猜测是广告插入或“幻觉”，OpenAI技术人员称是幻觉，而国产AI无此问题。
音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造
南洋理工和清华团队提出新框架AudioTrust，将ALLMs评估扩至六个核心维度，探究音频模态特有问题。目前基准及平台已开发，揭示了开源与闭源ALLMs在多维度的潜在风险。
多模态Deep Research，终于有了「可核验」的评测标准
俄亥俄州立大学与 Amazon Science 等联合发布 MMDR - Bench，将多模态 Deep Research 评估拉到可核验标准。它含 140 个专家任务，覆盖 19 领域，把评估拆成 3 段管线、12 指标，强调过程证据链。