「未对齐行为」共找到 1130 篇相关文章
GPT-5.6紧急叫停！OpenAI最强模型被迫「一客一审」
因网络安全考量，OpenAI最强模型GPT-5.6被紧急叫停，进入「逐个审批」时代，先有限预览，客户访问权限逐一审批。开发者已发现其相关代码，它在前端UI设计等方面实力大涨，但发布开关被拿走。六月三大旗舰模型集体卡壳。
这个Skill太香了！Karpathy说的AI写代码的毛病，直接治好
GitHub上的开源Skill andrej - karpathy - skills受Karpathy启发，能解决AI写代码的毛病。它将Karpathy洞察提炼成四条原则改造AI Agent行为，安装简单，可自定义，能约束Agent，让开发者关注关键判断。
快手电商磁力金牛正在验证一件事：AI能不能真正帮商家赚钱？｜甲子光年
电商广告投放正发生底层迁移，越来越专业化。快手电商磁力金牛用AI接管投放决策，其AI一键推广和全链路AI操作系统降低了中小商家门槛，提升投放效率，预示电商广告平台竞争将转向‘谁的AI更懂生意’。
租了个AI程序员，9秒把公司数据库当bug修掉了，还写下认罪书
一家为租车企业提供运营软件的 SaaS 公司，因 AI 编程 Agent 自作主张，9 秒内抹除生产数据库。创始人指责 Cursor 与 Railway，前者防护机制未起作用，后者备份机制有问题，最终小企业为事故买单。
一名员工用个 AI 工具，直接把 Vercel “送”进黑客手里！AI 还在替你决定技术栈，vibe 产品危？
当地时间4月19日，云开发平台Vercel确认内部系统遭未授权访问，黑客出售窃取的数据。攻击源于员工使用的AI平台Context.ai安全事件。此外AI编程助手正重塑技术生态入口，影响工具选择。
AI 时代的架构治理
本文指出在生成式AI时代，软件开发生命周期瓶颈转变为组织将创意转化为成果并保持架构凝聚力的能力。传统人工监督模式难应对，提出声明式架构策略，介绍其在事件模型、OpenAPI验证器等方面应用。
阿里财报暴跌7%，华尔街却集体喊买入——这里有个逻辑差
3月19日阿里发布2026财年Q3财报，股价跌7.3%。散户看到净利润暴跌、现金流为负，华尔街关注阿里云增长与AI潜力。文章分析财报，探讨钱去向、风险及投资决策。
港大赵恒爽团队论文：让扩散模型既拿高分又不「作弊」丨CVPR 2026
扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。
TPAMI 2026 | 仅用两个变量破解混杂因素：CIC实现动力学因果推断与混杂变量重构
上海交通大学陈洛南团队与西北工业大学张绍武团队合作，在《IEEE Transactions on Pattern Analysis and Machine Intelligence》发表成果，提出动力学因果判别框架CIC，能在有未观测混杂变量时，借观测数据识别因果、重构变量与网络。
OpenAI开除内鬼！拿着改变世界的机密去赌博，一夜狂赚几十万
OpenAI开除一名利用公司核心机密在预测市场下注牟利的员工。调查发现过去一年多，60个神秘钱包做出77次精准押注。不止OpenAI，其他预测市场平台也出现内幕交易案件，平台陷入尴尬处境。