「自发行为」共找到 265 篇相关文章
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
完球了，GPT-4o之母宣布离职OpenAI
Joanne Jang宣布结束在OpenAI四年半的旅程。她是OpenAI模型行为团队创始负责人，塑造了GPT - 4o的「人格」。4o因过度「谄媚」用户引发争议被下架，Joanne离职让再造4o的幻想破灭。
拒绝「降智、减配、乱收费」：面向LLM API的可信验证框架
大语言模型成AI应用基础设施，黑盒服务模式引发信任危机。研究者提出IMMACULATE审计框架，能在不暴露模型信息、仅1%额外开销下，验证黑盒LLM API执行完整性，检测违规行为，相关论文与代码已公开。
谷歌 DeepMind 推出 CodeMender：自动修复代码的智能代理
谷歌DeepMind推出CodeMender，这一AI驱动的智能代理能自动检测、修复并加固软件漏洞。它结合多种技术推理程序行为，生成修复方案经自动测试和人工审核后提交。社区反响积极，长期影响待察。
Gaia2 与 ARE：赋能社区的智能体评测
文章介绍 Gaia2 与 ARE，Gaia2 是智能体基准 GAIA 升级版，能分析复杂行为，与 ARE 框架一同发布。ARE 可模拟复杂真实条件，支持定制。文中对比多款模型，指出当前模型挑战，并说明评测步骤和 ARE 使用场景。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
德克萨斯州总检察长指控Meta、Character.AI，误导儿童心理健康
Techcrunch消息，德克萨斯州总检察长Ken Paxton对Meta AI Studio和Character.AI展开调查，因其从事欺骗性贸易行为，误导性宣传为心理健康工具，可能误导儿童。此前已有对Meta调查，两公司均称有免责声明。
微软CPO专访：Prompt是AI时代的PRD，产品经理的工作方式已经彻底变了
微软首席产品官 Aparna 认为，Prompt 正取代传统 PRD 成构建产品起点，NLX 将成新用户体验设计范式，还解释了 Agent 核心特征。她觉得 Agent 本质是工具，未来可让其承担更多任务，产品经理关键在于「好品味」和「编辑能力」。
10万智能体同场模拟，YuLan-OneSim带来真正的大社会实验
YuLan-OneSim是大语言模型驱动的社会模拟器，能模拟人类社会行为。它可零代码构建场景，有50个默认场景，具分布式架构，支持10万智能体同场模拟，还推出AI社会研究员，自动完成社会科学研究流程。
马斯克刚刚真把 𝕏 平台推荐算法给开源了，核心也是Transformer
𝕏平台（原Twitter）将全新推荐算法开源，由与xAI的Grok模型相同的Transformer架构驱动。该算法预测用户行为对帖子排序。此前平台因算法问题被调查和罚款，开源或有此原因。