搜索：认知缺陷 - AI Reading Hub

「认知缺陷」共找到 504 篇相关文章

除了prompting外，不动参数，如何改变模型行为？

文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。

北邮研究团队通过思维链审计实验，揭示大模型长链推理‘越想越错’现象背后的元认知偏差。研究基于RFC协议文档构建受控知识域，分析推理过程，发现反思会加重幻觉，且现有检测方法难以应对。

甲子光年智库基于调研数据开展AI产品用户研究，分析目标用户界定、类型细分与画像。指出新一代AI会重塑用户习惯，需探寻产品最终形态，还给出用户需求、类型分布等多方面结论。

Andrej Karpathy 在旧金山 AI 创业学校演讲，指出 AI 开启软件 3.0 时代，自然语言成编程接口。软件经历 1.0 代码、2.0 神经网络权重，现进入 3.0 用提示词编程大模型阶段，还探讨大模型特性、应用及相关问题。

国际算法奥赛金牌得主团队测试20个顶级大模型，在584道编程赛题上，高难度题目AI通过率为0%。论文发布LiveCodeBench Pro评测方法，揭示AI编程能力神话泡沫，指出其问题并给出提升方向。

过去半年，机器人表演把人们认知拉进现实。当下具身智能赛道玩家关注缩短探索周期、降低成本。地瓜机器人发布 RDK S100 套件，其有独特设计和适配场景，还围绕开发者诉求提供支持，跑通多种场景。

苹果一篇质疑大模型推理能力的论文引发争议。Open Philanthropy研究人员联手Anthropic发表论文，揭露苹果论文三大缺陷，指出部分测试无解却让模型“背锅”，还给出正确评价大模型推理能力的方法。

加州理工学院Anima Anandkumar团队8月24日发文，用AI模型将量子化学计算复杂度从立方级压到近线性级。单块GPU就能完成含82500个电子的金属缺陷模拟，而2019年同类计算用了约7800块GPU。

Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 播客对谈指出，当前 AI token 市场不透明，模型公司或失控。如买 token 像买成分不明商品，模型训练目标不明，且 Agent 行为边界在扩展，问责制缺失。

本文探讨AI时代读书投入产出比变化。指出很多书不必读完，印刷术与AI影响不同，AI降低加工成本，但认知成本省不掉。读书收益分信息和结构两部分，结构无法外包，选书能力也更重要。