「对齐风险」共找到 698 篇相关文章
刚刚，OpenAI发布首个AI浏览器ChatGPT Atlas！谷歌最怕的来了
OpenAI发布AI浏览器ChatGPT Atlas，原生嵌入ChatGPT，有侧边栏、浏览器记忆与智能体模式，可在页面内理解意图并完成任务。谷歌股价应声下挫，AI浏览器之战升温。
AI海啸来袭：不只白领，连水电工的饭碗也即将被冲走
作者 Andrew Wilkinson 指出人工智能海啸将冲击各行业，众多工作面临颠覆，给出未来发展时间表。还提醒企业和投资者重视风险，给出对冲策略，也提及 AI 发展可能遇阻碍。
开源人工智能：数字主权的基石
随着人工智能重塑各领域，数字主权成现实需求。开源人工智能可检查、可解释，能助力各国治理、审核和建设AI系统，是实现自主可控、激发创新、重建信任的关键，为数字主权各维度提供支持。
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
ACL 2026｜证据摊开看，场景图画清：让流式视频大模型拿捏「何时开口」
随着多模态和大语言模型发展，人类与 AI 交互走向共生。现有视频大模型难把握响应时机，西北工业大学等团队在 ACL 2026 提出 Response - G1 框架，实验显示其提升了模型性能。
Claude封号潮失控！300 万用户企业一夜断供，无理由、无回应，受害者被迫抱团反抗
Claude 出现封号潮，Belo App CTO 等众多用户被封却无解释，申诉只能填 Google 表单。用户不满累积，上线“Banned by Anthropic”网站呼吁改进封禁与申诉流程，还引发“单一厂商锁定”讨论。
死掉的创业公司，成了AI最抢手的训练数据
过去一年，硅谷倒闭创业公司用数字履历重新估价，卖给AI实验室训练agent。产业链迅速形成，中游有SimpleClosure和Sunset等，下游有多家做RL gym的创业公司，不过该产业链面临隐私等敏感问题。
基于 AI 的机器人攻陷微软、DataDog 和 CNCF 项目中的 GitHub Actions 工作流
近期，一个基于AI的机器人利用GitHub Actions工作流，在2026年2月21 - 28日对微软、DataDog等项目发起攻击，成功在多个代码库实现远程代码执行并窃取凭证，还出现AI对AI攻击，组织需加强安全审计。
微软：DeepSeek-R1等推理模型循环的原因找到了
前几天，DeepSeek - R1论文更新，披露诸多细节。重点是推理模型在低温/贪心解码下易循环，根源是学得不对，如风险规避式复读、时序相关错误复读，还给出解决方案。
谷歌发布 Angular 21：Signal Forms、Zoneless 迁移和 AI 优先工具
谷歌发布 Angular 21 版本，引入 Signal Forms 提高表单响应性，推进 zoneless 变更检测，还提供 AI 驱动开发工具，有打包配置、组件库等更新，虽引不同看法，但提供清晰迁移路径。