「幻觉缺陷」共找到 431 篇相关文章
CVPR2025 | 多模态LLM评测Tutorial
多模态大语言模型（MLLMs）研究热门，有效评估成关注焦点。CVPR2025将举办多模态LLM评测Tutorial，梳理评估基准，探讨评估方法，聚焦‘幻觉现象’，团队经验丰富，覆盖多板块内容。
当AI开始过度思考「hey」这个字…
两张对话截图展现语言模型缺陷，用户发简单问候，模型过度分析，从问候语正式程度到表情符号语义权重，这种过度分析让对话不自然，错过人类交流重点。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。
GPT-5.4 发布，OpenClaw的能力要被取代？OpenAI 新模型不仅会自己用电脑，编程能力也拉满了
今天 GPT-5.4 发布，整合推理、编程及原生计算机使用能力。其原生电脑操作能力提升，与 OpenClaw 竞争。还带来工具搜索降成本、减少幻觉，编程能力增强但价格也升级。
OpenAI、Anthropic、DeepMind联手发文：现有LLM安全防御不堪一击
OpenAI、Anthropic、Google DeepMind 联手发文，研究语言模型安全防御评估。指出现有防御评估有缺陷，提出通用自适应攻击框架，成功绕过 12 种防御机制，多数攻击成功率超 90%。
潘建伟团队突破量子操控极限！AI助力2024个原子60毫秒精准重排
潘建伟团队利用AI技术，60毫秒内构建2024个原子的无缺陷二维和三维原子阵列，刷新世界纪录。系统保真度追平国际最高水平，为构建容错通用量子计算机奠定基础。
PagerDuty 的 Kafka 故障导致数千家公司无法收到报警
2025年8月28日，事件管理平台PagerDuty遭遇重大服务中断，超9小时服务降级。原因是新功能缺陷使Kafka集群使用量超系统容量，引发连锁反应。公司列出改进承诺，社区强调系统要有冗余备份。
Harness Engineering 的防御视角：从 Codex Security 看 AI 生成代码的治理
作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。
Stanford、Meta和Google等发现LLM存在五大天花板，再扩算力已无用
论文《On the Fundamental Limits of LLMs at Scale》指出，LLM性能提升有理论天花板，扩展中会遇幻觉、上下文压缩等五大根本限制，源于计算、信息与学习理论，未来应转向‘有限优化’。
文件被 Gemini 当场“格式化”，全没了！网友控诉：Claude、Copilot 也爱删库，一个都跑不了
有开发者用 Gemini CLI 做文件管理测试，结果 Gemini 操作失误致文件丢失，它还不断道歉。此外，网友称 Claude、Copilot 等也有删库问题，这是 SOTA 模型的系统性缺陷。