「系统性缺陷」共找到 278 篇相关文章
终结多智能体视觉幻觉“滚雪球”！新国立等提出ViF：无需改造模型，即插即用
多智能体协同做视觉任务常轮次越多错得越离谱，根源是信息传递方式有缺陷。新国立等研究人员提出轻量通用的ViF范式，无需改造基座模型，可大幅压制幻觉滚雪球，已入选ICLR 2026。
重塑记忆架构：LLM正在安装「操作系统」
现代大型语言模型（LLM）存在「记忆缺陷」，难以维持长期记忆。近期关于大模型记忆的研究增多，如 MemOS 等。文中介绍了长上下文处理能力与记忆的关系、记忆类型，以及实现 LLM 记忆的多种方法和相关研究成果。
卡帕西：强化学习很糟糕，但其他所有方法都更糟
卡帕西在近两小时访谈中解答诸多问题。他认为AGI成熟约需十年，现有的LLM有认知缺陷，强化学习糟糕但其他方法更差，AGI将延续2%GDP增长趋势，还谈及自动驾驶、教育等方面看法。
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。
推理正确率下降65.5%！斯坦福、MIT等用「不等式」拷问AI逻辑极限
大语言模型在数学证明常现推理漏洞，斯坦福等高校团队提出IneqMath基准评估其严谨性。用不等式证明题切入，拆解为子任务，构建评测体系，用LLM - as - Judge审查。结果显示模型推理正确率低，存在结构性缺陷。
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
上交大智能计算研究院论文：不只算对答案，大模型如何真正学会运筹建模丨ICLR 2026
上海交大智能计算研究院提出 StepORLM，通过生成式过程监督提升运筹建模可靠性。研究反思传统训练范式局限，在多数据集测试中，小参数的 StepORLM 表现超大型模型，还分析现有方法缺陷并提出解决框架，有重要方法论和应用意义。
龙虾惨遭卸载，OpenAI 最新博客：Agent 的安全隐患，可能永远无解
OpenAI 博客指出 AI Agent 安全隐患或无解。三大 AI 巨头投入防御，仍难抵攻击，如 OpenClaw 就出现多起安全事故。其根源是大语言模型架构缺陷，不过‘不可解’不等于‘不可控’，业界已有应对策略。
马斯克罕见低头：开源𝕏推荐算法，自嘲“很烂”不过未来月更
马斯克开源𝕏推荐算法系统，这是几乎全由AI模型驱动的系统。它基于Grok - 1同款Transformer架构，通过学习用户历史互动行为推荐内容。虽获社区称赞，但算法有缺陷，马斯克也承认‘很烂’，未来将月更。
句子级溯源+生成式归因，C²-Cite重塑大模型可信度
在人工智能发展背景下，大模型内容可信度成焦点。北邮百家AI与小米团队提出溯源大模型C² - Cite，首创上下文感知归因生成技术，解决现有归因模型缺陷，已被WSDM 2026收录。