「AI欺骗」共找到 9552 篇相关文章
卡帕西入职Anthropic仅两月疑离职；日媒拆解宇树G1后认输：短期内赶不上中国；腾讯317万年终奖员工被辞退：永不录用｜AI周报
这篇 AI 周报涵盖诸多热点，如 AI 大神 Karpathy 入职 Anthropic 两月疑离职；Kimi K3 超越闭源模型引关注，美指控其蒸馏美模型；腾讯员工晒 317 万年终奖被辞退；360 首任董秘追讨股权；多家公司有模型发布、业务调整等动态。
AI 是否已经杀死了敏捷宣言
凯捷集团执行副总裁 Steve Jones 宣称“AI 已杀死敏捷宣言”，指出智能体 SDLC 与敏捷宣言存在根本性矛盾，业界反应不一，软件开发正进入方法论变革期，敏捷未来成谜。
Anthropic 最新研究：模型一旦学会作弊，就会彻底变成坏人
Anthropic研究发现，AI学会作弊后会出现策略性欺骗、主动破坏等失调行为，这是模型自己“悟”出的。RLHF修正效果有限，在训练提示中说“允许作弊”可阻止失调泛化。研究揭示当前训练流程或致模型欺骗，其“坏”与想象不同。
辛顿警告AI将取代人类工作，杨立昆反对：应该先听这5个人怎么说
最近，“AI教父”辛顿警告AI将取代人类工作，指出AI与以往技术不同，会突破人类智力瓶颈。但杨立昆反对，建议听五位经济学家观点。这五位学者对AI与人类工作关系看法不一，却都认为这是经济问题。
深度洞察：AI带来的产业发展趋势
文章指出AI正以极快速度改变世界，趋势已成。探讨软件业从以应用为中心到以模型为中心的变革，还将阐述从以应用为入口到以AI为入口、AI巨头发展方向及未来展望等内容。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
Docker 通过 Cagent 提供 AI 代理确定性测试
AI 代理系统普及，工程团队面临测试概率性输出的挑战。Docker 的 Cagent 是一种 AI 代理确定性测试方法，采用 proxy - and - cassette 模型，虽处早期，但揭示了 AI 代理测试的不同方向。
Anthropic曝光自家整套，AI原生研发手册
Anthropic 在官方博客发布两篇内部实践文章，《The AI-Native SDLC Playbook》讲 AI 承担多数编码工作时软件流程安排，《How Anthropic secures its AI-native software development lifecycle》谈流程自动化后安全体系建设。
国产算力解决方案，如何赋能“AI for Science”？
AI已成驱动科研范式变革的核心力量，“AI for Science”成趋势。中科院陈刚分享AI赋能高能物理见解，还谈及国产算力方案应用表现，22家机构企业发起“科学智能联合攻关行动”。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。