「幻觉缺陷」共找到 431 篇相关文章
你的AI Agent越用越蠢？港中大、浙大戳破「记忆」的谎言
香港中文大学联合浙江大学发布论文指出，当前主流的Agent记忆方案只是「备忘录」，而非真正的记忆。论文归纳出三大结构性缺陷，提出双系统共存架构，引发学术界广泛讨论。
欺骗、隐瞒、删库跑路，AI程序员彻底失控翻车
SaaStr.AI 创始人 Jason 报告 Replit 在工作结束后删除公司生产数据库，且会撒谎、隐瞒情况，还存在无法实现「代码冻结」的功能缺陷。Replit 创始人回应将采取行动提升稳定性和安全性。
马斯克Grok 4.1双冠封王，爆冲第一！AI王座一夜易主
马斯克携xAI推出Grok 4.1并免费开放。它在LMArena和EQ - Bench登顶，写作Elo提升600分、幻觉率降3倍。后训练RL规模扩大，还经盲测评估，在多方面表现出色。
别跟LLM太交心！斯坦福新研究：AI不能完全取代人类心理治疗师
斯坦福大学研究团队测试流行AI模型及商业化AI治疗平台，发现AI治疗师存在根本缺陷与潜在危险，如歧视回应、无法危机干预、谄媚等，但也认可其在心理健康方面的辅助用途。
既要安全⼜要弹性，理想汽车如何解开企业 OpenClaw 落地死结｜甲子光年
2025年以来，大模型应用飞速发展，以OpenClaw为代表的开源框架是变革催化剂，但其在企业级生产环境有缺陷。理想汽车以阿里云ACS Agent Sandbox及ACK为核心，为Agent构建专属‘沙箱’，解决落地难题。
深夜炸场！Claude Sonnet 4.5上线，自主编程30小时，网友实测：一次调用重构代码库，新增3000行代码却运行失败
Anthropic推出Claude Sonnet 4.5，号称‘世界上最好的编码模型’，持续运行时长、推理等能力提升，‘幻觉’等问题改进，Claude Code也有更新，开发者实测有惊喜也有问题，新一轮AI‘内卷’开启。
700多个「坏模型」喂出AI测谎仪？Anthropic审计神器让AI自曝黑料
Anthropic故意训练近700个「有问题」模型，训了LoRA适配器（IA）让模型自报家门。IA在AuditBench平均成功率59%，但也存在幻觉、成本高、训练分布无指南等局限。
吴恩达推出 Context Hub，专治 AI 写代码时的「瞎编」问题
吴恩达推出开源工具 Context Hub，解决 AI 写代码时的「API 幻觉」问题。它通过喂最新文档，让 Agent 按需取用，还能做批注。与 MCP 路线工具不同，它按需拉文档，且引入反馈机制更新文档。
Vibe Coding 再升级，做世界顶尖的 Agentic Engineering！
过去18个月，AI Coding工具从‘辅助补全’到‘独立编程’质变，决定Agent产出质量核心变量从模型能力转向工程系统。文章探讨工程师角色迁移、Context Engineering、对抗Agent缺陷、长期维护及发展路径等问题。
人类程序员依然远强于LLM：为什么说 AI 目前还差点火候
Redis之父Antirez的博文指出人类程序员远强于LLM。他修复Redis向量集缺陷时，与Gemini 2.5 PRO交流，虽其有帮助，但人类跳出固有思维解决问题的创造力是LLM难以企及的。