「认知行为迁移」共找到 836 篇相关文章
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
强化学习也能预训练？效果可提升20倍，华人新作引爆RL新范式!
伯克利团队提出新方法InFOM，不依赖奖励信号，能在多任务中超强迁移与推理。在36个基于状态和4个基于图像的任务测试中，InFOM表现出色，在jaco任务上改进达20倍。
一文读懂深度表格数据表示学习 | 南京大学
南京大学团队系统介绍表格表示学习领域，将现有方法按泛化能力分三类，比较DNN与树模型优劣，剖析核心挑战，探讨扩展方向及数据集评估策略，旨在建跨数据集稳健评估体系。
大神Karpathy炮轰复杂UI应用没有未来，Adobe首当其冲，网友：不提供文本交互，就是在阻挡AI浪潮
大神Karpathy预言只有复杂UI界面、不提供文本交互的应用将被淘汰，还点名Adobe、CAD。他言论引发讨论，支持者强调后端接口，反对者认为专业软件有其价值。此外，他还批判大模型编程‘重生成轻判别’。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
OpenAI还在讨论“异星心智”，乐享科技已经造出来了｜甲子光年
本文对比OpenAI对异星机器心智的风险预警，介绍中国乐享科技基于仿生神经科学思路，研发出面向机器人的以太大模型，已完成多场景验证，将举办户外开放直播测试，探索具身智能新路线
分享一些可以让AI使用更丝滑的小技巧
作者起初用AI不顺手，经研究摸索发现是指令有误。分享沟通技巧，如给身份、给参考风格、用“说人话”“举例子”，还可当头脑风暴搭子，强调清晰指令能助自我认知。
Claude Code与Codex六大组件拆解
文章指出如今如GPT - 5.6等模型的裸能力相近，但装进Claude Code 或 Codex CLI 后表现差距大，原因在于Agent Harness。它将编码智能体拆解为六个核心组件，详细阐述各组件作用与意义。
都说记忆是Agent标配，但MemSyco发现漏算了一件事
厦门大学与吉林大学的最新研究指出，随着大模型Agent具备长期记忆，虽成为“长期协作者”，但也出现Memory-Induced Sycophancy问题。为此提出MemSyco - Bench评测基准，经实验得出多项发现，指出Agent Memory关键瓶颈转变。