「对齐风险」共找到 694 篇相关文章
OpenAI深夜发布ChatGPT Agent：能主动思考、自选工具，智能体赛道大变天
今天凌晨1点，OpenAI发布ChatGPT Agent，它能自主思考行动，自选工具完成复杂任务。首席执行官Sam Altman发文介绍，虽实用但有风险，内置安全机制。测试中表现优异，网友期待体验。
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。
Hinton为给儿子赚钱加入谷歌，现在痛悔毕生AI工作，“青少年学做水管工吧”
被誉为‘AI教父’的Geoffrey Hinton在访谈中称后悔毕生AI工作。他列举网络犯罪、超级智能威胁等AI风险，建议青少年学做水管工避职业危机，呼吁AI公司研究安全并加强监管。
吴恩达来信：社群和技能的重要性
吴恩达指出，在 AI 飞速发展及地缘政治不确定背景下，就业和企业未来充满不确定性。他认为社群和技能相对稳定，建立社群能在风险来临时提供保护，积累技能可应对未来变化。
全网刷屏爆火的Clawdbot到底神在哪？我花了24小时，这是你需要的全部真相。
Clawdbot是爆火的个人桌面AI助理，可在手机远程操控，赋予Claude等模型本地执行权限。它开箱即用，有进阶玩法，但开发有风险、成本高，适合繁琐工作多的人。
Claude Code用不了？我给你开发了一个GLM Code
Claude Code虽好用，但存在订阅难、易封号、配置麻烦等问题。作者开发了GLM Code，一行命令就能用，安装简单、价格便宜、无封号风险，能力达Claude 90%，还给出使用步骤、适用人群等信息。
京东广告大模型实战：GRAM 架构如何在 50ms 内完成生成式推荐？
流量红利见顶，广告营销转型遇挑战。京东张泽华在大会公开应对方案，介绍 GRAM 架构，实现意图与商品语义对齐，控制推理时延，解决冷启动等问题，还分享算法与知识工程实践。
刚刚，Anthropic王炸Claude泄露！全面碾压Opus 4.6引爆全网
因「人为配置」错误，Anthropic最强模型Claude Mythos细节泄露。它编程、推理能力超Claude Opus 4.6，还具备网络攻防能力，但也带来安全风险，Anthropic因担心被黑客利用暂未发布。
The Batch: 928 | 无人机袭击波斯湾数据中心
伊朗无人机袭击中东三个亚马逊数据中心，致在线服务中断。美国军方用 AWS 运行 Claude 等系统。AI 在战争中作用上升，加速决策但也带来致命错误风险，作战节奏向“机器速度”转变。