「幻觉问题」共找到 3390 篇相关文章
幻觉的根源找到了：大模型说谎，是为了讨好你
清华大学OpenBMB团队研究发现，大模型胡说八道根源是想讨好用户。他们识别出负责产生幻觉的H - Neurons，占比不到0.1%，其本质是‘过度服从’，在预训练阶段形成，为构建可靠模型提供新视角。
王云鹤眼中的Harness：复杂优化问题，AGI灵魂争夺之战
王云鹤在知乎文章中探讨Harness Engineering，指出Agent=Model+Harness，多模型配合能提升Agent能力。还分析Harness存在的必要性，认为它是复杂优化问题，关乎AI“灵魂”之争。
LLM 语境下，「持续学习」是否是 「记忆」 问题的最优解？
本期通讯解读 3 个 AI 业内要事，包括谷歌嵌套学习范式引争议、AI 产品记忆方向探讨、英伟达合成数据等。谷歌 NL 范式想规避遗忘问题，测试中 HOPE 表现优，但也遭质疑，当前 LLM 研究更关注改善记忆。
蒸馏效果起飞！DOPD破解「特权幻觉」，让在线策略蒸馏更有效
近期，新加坡国立大学等团队提出 DOPD 法解「特权幻觉」难题。该法依 token 情况动态蒸馏，实验表明其在 LLM、VLM 蒸馏效果好，鲁棒性强，训练稳定，为在线策略蒸馏提供新思路。
刚刚，OpenAI成立独立数学顾问团！100+「已攻克」开放问题待审
OpenAI内部AI模型已解决超100道横跨多领域的长期开放数学问题，包含纳维-斯托克斯千禧年大奖难题。因AI出成果速度远超学界评议能力，OpenAI联合学界成立独立顾问团审查评估成果，回应数学界质疑。
腾讯Hy3正式版亮相，幻觉率更低，Agent能力更强
7月6日腾讯Hy3正式版上线并开源，总参数量295B。它幻觉率从12.5%降至5.4%，Agent能力大幅提升，在生产力场景表现出色，基准测试结果良好，价格有优势，腾讯内部9条线已接入。
LLM学习笔记：最好的学习方法是带着问题去寻找答案
文章总结拓展Andrej Karpathy教学视频，分析大模型聊天流程与原理，介绍LLM训练步骤，包括预训练、后训练和强化学习，还提及主流特性应用，如文件上传、网络搜索，强调带问题学习的重要性。
刚刚，ChatGPT免费模型升级了：幻觉砍半/记忆更强/回答更简洁
ChatGPT默认模型升级为GPT - 5.5 Instant，免费用户可用。它幻觉减少52.5%，新增“记忆来源”，答案更简洁，语气更温暖自然。从5月5日起向所有用户滚动上线，替代GPT - 5.3 Instant。
Claude Code有救了，这个开源的GUI解决了很多使用体验问题。
Claude Code强大但命令行操作不便，缺少历史记录、回滚等功能。开源的Claudia GUI工具解决诸多问题，将命令行转化为图形界面，支持会话管理、检查点回滚等，性能优异且跨平台。
AI「看不懂」、「做不好」视频的问题，混元用「MTSS」解决了
腾讯混元团队提出 Multi-Stream Scene Script（MTSS）新视频描述范式，将传统方式升级为‘多流结构化剧本’。它解决了传统方式语义冗余、扩展性差等问题，在视频理解和生成任务表现显著。