「欺骗行为」共找到 266 篇相关文章
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
乐鑫开源首个「物联网设备Agent框架」，Claw的风终于吹到硬件上
乐鑫开源首个物联网设备Agent框架ESP - Claw，用C语言重写。它核心理念是对话即创作，可让用户通过聊天定义硬件行为。具备运行效率高、内存占用低等特点，还有多种功能及良好的生态适配性。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
OpenClaw爆火背后，仅8.6%用户能察觉异常！多校联合实证
OpenClaw等AI智能体爆火，其安全隐患凸显。多校联合研究发现，仅8.6%的用户能感知智能体媒介欺骗，总结了6类认知失效模式，认为体验式学习或比静态提醒更能提升用户警觉性。
完球了，GPT-4o之母宣布离职OpenAI
Joanne Jang宣布结束在OpenAI四年半的旅程。她是OpenAI模型行为团队创始负责人，塑造了GPT - 4o的「人格」。4o因过度「谄媚」用户引发争议被下架，Joanne离职让再造4o的幻想破灭。
拒绝「降智、减配、乱收费」：面向LLM API的可信验证框架
大语言模型成AI应用基础设施，黑盒服务模式引发信任危机。研究者提出IMMACULATE审计框架，能在不暴露模型信息、仅1%额外开销下，验证黑盒LLM API执行完整性，检测违规行为，相关论文与代码已公开。
谷歌 DeepMind 推出 CodeMender：自动修复代码的智能代理
谷歌DeepMind推出CodeMender，这一AI驱动的智能代理能自动检测、修复并加固软件漏洞。它结合多种技术推理程序行为，生成修复方案经自动测试和人工审核后提交。社区反响积极，长期影响待察。
Gaia2 与 ARE：赋能社区的智能体评测
文章介绍 Gaia2 与 ARE，Gaia2 是智能体基准 GAIA 升级版，能分析复杂行为，与 ARE 框架一同发布。ARE 可模拟复杂真实条件，支持定制。文中对比多款模型，指出当前模型挑战，并说明评测步骤和 ARE 使用场景。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
德克萨斯州总检察长指控Meta、Character.AI，误导儿童心理健康
Techcrunch消息，德克萨斯州总检察长Ken Paxton对Meta AI Studio和Character.AI展开调查，因其从事欺骗性贸易行为，误导性宣传为心理健康工具，可能误导儿童。此前已有对Meta调查，两公司均称有免责声明。