「幻觉评估」共找到 918 篇相关文章
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
CVPR 2026｜突破3D空间推理瓶颈：北大联合南科大提出QuatRoPE，让大模型精准理解三维物体关系
北大联合南科大团队提出全新 3D 位置嵌入方法 QuatRoPE，改善大语言模型 3D 空间推理痛点。还提出 IGRE 降低干扰，构建 ASR 基准评估能力。研究被 CVPR 2026 接收，代码与模型已开源。
The Batch: 941｜盲人辅助模型中的隐患
视障患者用AI评估外貌引发关注。失明记者Milagros Costabel撰文探讨用视觉语言模型作“虚拟镜子”的挑战与隐患，如AI会给出评判性反馈，心理学家担心这加剧抑郁焦虑。产品应提供客观解读。
吴恩达推出 Context Hub，专治 AI 写代码时的「瞎编」问题
吴恩达推出开源工具 Context Hub，解决 AI 写代码时的「API 幻觉」问题。它通过喂最新文档，让 Agent 按需取用，还能做批注。与 MCP 路线工具不同，它按需拉文档，且引入反馈机制更新文档。
数学圈地震！o3靠直觉刷爆人类顶尖难题，14位专家集体破防
Epoch AI新研究发现，o3 - mini - high能破解顶尖数学难题，具备渊博学识且会基于直觉解题，但推理风格依赖直觉，缺乏严谨性和创造力，还存在投机取巧、幻觉等问题。
DoorDash 如何打造了一款不完全依赖大型语言模型（LLM）的 AI 购物助手
DoorDash 分享对话式 AI 助手 Ask DoorDash 的架构，它借助 LLM、AI 代理等构建系统。测试显示其提升了结账转化率等指标，还构建自动评估框架改进质量衡量，架构分离协调与业务功能。
一份最新具身智能中的世界模型&安全综述
本文分享2篇具身智能世界模型和安全挑战的综述。2025年10月的综述用三维坐标轴整合文献。还介绍世界模型分类、性能表现，围绕自动驾驶与机器人领域分析安全隐患并实证评估。
从 Shopify 构建 Agent 的经验中可以学到的
Shopify 分享构建 Agent 经验，采用主流 Agentic Loop 架构。给出4条打造 AI 智能体核心建议，还指出工具控制在20个内，可用 SubAgent 分摊上下文；用人类标记结果作基准让 LLM 评估 Agent 生成结果。
75%预训练数据都能删！Jeff Dean新作：全自动筛除低质量数据
Google DeepMind团队开发的DataRater可全自动评估数据质量，用元学习筛选有价值数据，提升模型训练效率。它能减少计算量、提高性能，在低质量数据集效果佳，还能跨模型规模泛化。
打破资源瓶颈！华南理工&北航等推出SEA框架：低资源下实现超强多模态安全对齐
本文介绍北航彭浩团队的 SEA 框架，针对多模态大模型低资源安全对齐难题，用合成嵌入替代真实数据，突破资源瓶颈。还构建 VA - SafetyBench 评估安全风险，实验验证了 SEA 低资源、高泛化优势。