「思维退化」共找到 327 篇相关文章
前沿模型被曝年度重大漏洞：加密思维链可被轻松提取，GPT，Claude，Gemini 无一幸免
一篇 116 页论文揭示前沿模型思维链重大安全漏洞，Anthropic、OpenAI、Google 的 API 因架构问题，模型隐藏推理过程可通过两次 API 调用被大规模提取，还会带来多种安全威胁。
【栏目对话和访谈】ClawdBot 创始人 Peter：AI 是杠杆，不是替代品；编程语言不重要了，重要的是我的工程思维
这是对 ClawdBot 创始人 Peter Steinberger 的访谈。他分享 ClawdBot 开发历程，认为 AI 是杠杆非替代品，编程语言不重要，工程思维才关键，还预测 80% App 会消失，批判复杂智能体编排系统。
Jason Wei也被小扎带走：思维链开创者、o1系列奠基人！这次真挖到OpenAI大动脉了
思维链提出者、o1系列模型关键人物Jason Wei被曝将入职Meta，o1另一位关键人物Hyung Won Chung也可能被挖走。小扎为顶尖AI人才提供强大支持，而OpenAI内部也存在增长混乱等问题。
720美元套出A社死藏的Opus原始思维链，还是Haiku泄露的，GPT/Gemini也中招
研究人员发现，将大模型返回的加密推理块扔给同厂小模型让其复述，就能破解大模型隐藏的思维链。如Anthropic、OpenAI、Google的模型均中招，还会带来隐私、安全等风险，虽已打补丁，但仍有难题。
马斯克挖不动的清华学霸，一年造出 “反内卷 AI”！0.27B参数硬刚思维链模型，推理完爆o3-mini-high
新加坡Sapient Intelligence推出小参数AI模型HRM，能解决复杂推理难题。它受大脑启发，提出“隐性推理”路径，准确率碾压先进思维链模型，推理能力超越o3 - mini - high，经济性突出，任务效率可百倍提升。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
中年人的认知坍塌
Andrej Karpathy在播客提到模型持续用合成数据训练会出现‘认知坍塌’，能力退化。他认为人类随年龄增长和经验固化，也会从无限可能收敛到固定思维模式，像极了中年人的认知坍塌。
思维外包化！AI正在“废掉”我们的大脑
当下“AI是否会抢走工作”讨论火热，亚马逊CEO称重复性岗位将被取代。但更危险的是，对AI过度依赖或“废掉”大脑，催生“思想懒汉”，在教育领域体现尤令人担忧。
断网后才发现脑子空空？132页论文实证：「脑腐」或成AI头号内伤
新智元报道，独立研究人员Rénald Gesnot从多维度审视AI对人思维的重塑。研究指出多数人用AI时被「降智」，存在认知卸载、「过滤气泡」、被「洗脑」等问题，还提出前进方向。
社交Agent: 通过RL学习自适应Thinking，根据场景在“秒回”和“深思”间灵活切换
现有聊天机器人在人情世故场景表现不佳，论文指出大模型思维‘一根筋’。研究团队设计4种思维模式，用AMPO强化学习算法动态切换。在模拟社交任务中，AMPO表现超GPT - 4，省时高效。