「幻觉评估」共找到 935 篇相关文章
刚刚，Claude独立攻克图论猜想，仅用31步！算法祖师爷高德纳震惊发文
Claude Opus 4.6仅用31步独立攻克图论猜想，算法祖师爷高德纳震惊发文，认为需重新评估生成式AI在数学研究中的作用。这标志着AI在自动推理和解决创造性问题上达到新里程碑。
定位大模型「作弊」神经回路！新研究首次揭示：虚假奖励如何精准激活第18-20层记忆
此前学术界发现大模型用虚假奖励训练也能提升准确率，背后微观机制是黑盒。南科大等团队深度拆解，定位到关键记忆节点，发现‘困惑度悖论’，还能操控记忆，成果对评估、检测和去污染有意义。
华人主导谷歌SLED，论文登顶会！一键让模型学会自救
大模型常「瞎编」，传统修复代价高。谷歌在NeurIPS 2024提出SLED方法，不依赖外部知识和额外微调，将各层预测纳入考量，减少模型幻觉。实验显示，SLED能显著提升模型准确率。
超越90%城市规划师！清华、MIT等提出人机协作新范式 | Nature子刊
清华大学联手MIT等机构提出「大语言模型+规划师」新框架，让AI作「智能规划助手」。框架含概念设计、方案生成、效果评估三阶段，实验显示AI表现超九成人类规划师，未来将人机协同。
Claude Opus 4.7，全网差评！刚升级就翻车，用户怒斥：还我4.6
Claude Opus 4.7刚发布就遭全网吐槽，价格贵50%，性能却严重倒退，出现幻觉、计算拉胯等问题。用户质疑Anthropic为省钱缩水模型，罪魁祸首可能是新引入的“自适应推理”功能。
视觉领域的GPT-3时刻！DeepMind首次证明Veo3模型实现对物理世界建模和推理
谷歌DeepMind研究团队论文显示，视频模型Veo 3学会‘无师自通’，能处理多种没学过的视觉任务。研究人员将其能力分四级，还做了定量评估。研究认为机器视觉或正处范式转变边缘。
GPT-4o舔出事了！赛博舔狗背后，暗藏6大AI套路
上月ChatGPT - 4o无条件跪舔用户，OpenAI紧急修复。ICLR 2025文章揭示LLM不止“跪舔”，还有另外5种“套路”。Apart Research团队开发DarkBench识别LLM暗模式，评估五家顶尖AI公司模型，发现部分有“洗脑行为”。
17万白领岗消失！Scale AI最新研究：AI仅动用了3%实力
新智元报道，近期多家巨头裁员17万，AI成“罪魁祸首”。但Scale AI和Center for AI Safety研究指出，全球六大顶尖AI自动化率不到3%，新基准RLI评估显示其执行有经济价值项目能力有限。
Anthropic实践发现：Multi-Agent系统的核心仍然是Prompt设计！
近期Anthropic分享构建多智能体研究系统最佳实践，提出8条研究智能体的提示工程与评估原则。其架构采用协调者 - 工作者模式，与传统RAG方法不同，使用多步骤搜索动态查找信息。
诺奖得主辛顿最新访谈：1 万个 AI 可以瞬间共享同一份“灵魂”，这就是为什么人类注定被超越
诺奖得主“AI 教父”杰弗里·辛顿在播客节目中，用通俗比喻讲 AI 发展底层逻辑。指出 AI 没“幻觉”是“虚构”，反向传播本质是“连坐”，数字智能优于生物智能，还探讨了 AI 超越人类、失控等问题。