「奇点幻觉」共找到 292 篇相关文章
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
The Batch: 952 | GPT-5.5 性能领先，但幻觉问题突出
OpenAI 最新旗舰模型 GPT-5.5 是闭源视觉 - 语言模型，在重要基准测试中表现领先，但在区分已知未知内容上有困难，幻觉问题突出，在主观评估中落后于对手。
GPT-5.5 Instant上线：幻觉减少52.5%，告别废话
OpenAI完成ChatGPT默认模型的静默升级，GPT-5.5 Instant全面替换GPT-5.3 Instant。它在数学推理、减少幻觉、精简回答、记忆功能等方面有显著改进，还采用灰度推送策略。开发者认为其定位是日常场景够用顺手。
倒计时3周离职！LeCun最后警告：硅谷已陷入集体幻觉
LeCun三周后将从Meta离职，在最新访谈中警告，硅谷对大模型的追捧是集体幻觉，大模型无法通往AGI。他认为世界模型才是正途，还分享了创业公司AMI的规划，批评了硅谷单一文化，对AGI时间线给出看法。
评论送书 | 奇点何时到来？AI会成为人类的威胁吗 ？
文章从非线性非平衡多自由度系统的视角，探讨生成式AI未来发展态势，对‘规模扩大至临界点会实现奇点’及‘AI成人类威胁’的观点存疑，指出人类滥用AI才是现实威胁。
Sam Altman 最新文章：悄然而至的奇点，一场温和的革命
Sam Altman在《The Gentle Singularity》中指出，人工智能的“技术奇点”正以温和方式开启，是渐进过程。越过临界点后社会将巨变，解决“对齐”问题、确保技术普惠，人类将迎美好未来。
评论送书 | 奇点何时到来？AI会成为人类的威胁吗 ？
文章从非线性非平衡多自由度系统研究视角探讨生成式AI发展态势，对‘规模增大引发相变实现奇点’及‘AI成人类威胁’观点存疑，指出人类智能与AI智能有差异，推荐《智能的真相：AI能替代人脑吗？》。
幻觉的根源找到了：大模型说谎，是为了讨好你
清华大学OpenBMB团队研究发现，大模型胡说八道根源是想讨好用户。他们识别出负责产生幻觉的H - Neurons，占比不到0.1%，其本质是‘过度服从’，在预训练阶段形成，为构建可靠模型提供新视角。
新晋诺得主警告：别做梦了，AI难有「经济奇点」！
新晋诺奖得主Philippe Aghion早在2017年就剖析AI对就业与增长的影响，强调它并非奇点催化剂，而是受「鲍莫尔成本病」制约的工具。他认为AI是自动化进程的最新形态，其对经济增长的促进作用或受限。
蒸馏效果起飞！DOPD破解「特权幻觉」，让在线策略蒸馏更有效
近期，新加坡国立大学等团队提出 DOPD 法解「特权幻觉」难题。该法依 token 情况动态蒸馏，实验表明其在 LLM、VLM 蒸馏效果好，鲁棒性强，训练稳定，为在线策略蒸馏提供新思路。