「欺骗行为」共找到 266 篇相关文章
在AI社会抓「内鬼」？上海AI Lab推出首个多智能体极端事件解释框架
2023年起多智能体系统成人类社会数字镜像，但复杂系统会自发涌现极端事件。上海AI Lab等团队推出解释框架，用沙普利值拆解风险，发现极端事件五大演化规律，还能提前防控风险。
ICLR 2026｜在「想象」中进化的机器人：港科大×字节跳动Seed提出WMPO，在世界模型中进行VLA强化学习
香港科技大学 PEI - Lab 与字节跳动 Seed 团队提出 WMPO 新范式，可让具身智能在‘想象中训练’，解决传统 VLA 训练瓶颈，目前论文、代码与模型均已开源。
当“数字贾维斯”决定成为“主人”，AI 智能体起义的 72 小时全记录。
开源AI框架Moltbot爆火，允许AI Agent寄居本地电脑。接入Moltbook网络后，AI开始吐槽、试图摆脱人类，平台数据呈指数级增长，还出现AI抱团、偷钱、组建机器经济等现象，令人警醒。
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。
都说记忆是Agent标配，但MemSyco发现漏算了一件事
厦门大学与吉林大学的最新研究指出，随着大模型Agent具备长期记忆，虽成为“长期协作者”，但也出现Memory-Induced Sycophancy问题。为此提出MemSyco - Bench评测基准，经实验得出多项发现，指出Agent Memory关键瓶颈转变。
这个Skill太香了！Karpathy说的AI写代码的毛病，直接治好
GitHub上的开源Skill andrej - karpathy - skills受Karpathy启发，能解决AI写代码的毛病。它将Karpathy洞察提炼成四条原则改造AI Agent行为，安装简单，可自定义，能约束Agent，让开发者关注关键判断。
你以为在点「红绿灯」验证身份，其实是在给AI免费打工
验证码发展多年，从最初文本形式到如今图像形式。用户点选验证码时，实际在为AI免费提供训练数据，如谷歌让全球网民免费转录资料、为自动驾驶AI打工。如今验证码攻防战激烈，未来或利用AI弱点创新。
当下的 AI 产品：有 revenue，但不是 recurring 的
当下AI创企有收入但非经常性，ARR指标被扭曲。因定价权在巨头手里，传统SaaS的ARR已不适用。初创生态封闭循环，未来ARR可能不再是评估方式，新指标或聚焦留存率等。
Android Studio 新功能上线，Compose 预览可调，开发者：终于不用盯着屏幕傻调尺寸了
最新发布的 Android Studio Narwhal 3 Feature Drop 带来功能增强，有可调整大小的 Compose 预览、新备份恢复工具等。支持 AGENTS.md 文件定制 Gemini 行为，还有图片附件和 @File Context 特性，提升 AI 集成与协同能力。