「对齐风险」共找到 698 篇相关文章
“商业的HTTP”来了：谷歌CEO劈柴官宣 UCP，Agent 直接“剁手”下单，将倒逼淘宝京东“拆家式重构”？
谷歌CEO近日宣布开放标准UCP，目标是让Agent在线购物，将购物流程拆解成可复用组件。风险投资人认为其想成商业领域的“HTTP”，不少行业人士看好。它还能与其他协议协同，发布首日吸引众多伙伴。
奥特曼马斯克豪言：我们已进入奇点！AGI加速窗口已至
新智元报道，奥特曼和马斯克都认为奇点已至，当下处于AGI加速窗口。OpenAI曾靠资源猛追让Codex逆袭。但AI发展也引发担忧，如人类能否保持理智、安全对齐进展不明等。
马斯克突然“牵手”英特尔！杀入AI芯片腹地
近日英特尔加入马斯克的Terafab AI芯片项目。英特尔曾在移动、AI时代落后，现靠18A制程重站AI芯片牌桌；马斯克AI版图扩张，Terafab计划需可靠伙伴，二者合作愿景大但风险多。
谷歌卷Gemini模型，OpenAI刷GPT-5科研论文
谷歌推出Gemini 3 pro等模型，来势汹汹。OpenAI CEO称其带来经济阻力，还挖掘GPT - 5应用价值并发表89页论文，展示在科研流程中的表现，也提及失败风险与可用Prompt模板。
比OpenClaw还狠！奥特曼押注「心灵感应」，Codex直接读取你的屏幕
4月21日，OpenAI上线Chronicle研究预览版，它能读取屏幕内容形成记忆图谱，帮Codex理解上下文。虽解决AI失忆短板，但吃Token且有隐私风险，这是其在用户记忆战争的首枪。
昔日王者应用商店，将死！OpenClaw或杀死80%手机应用
OpenClaw创始人Peter Steinberger在访谈中称手机里80%的APP已死。OpenClaw能操控设备、完成复杂操作，还让非技术人会编程。不过它有安全风险，仍被部分人看好用于企业经营。
Clawdbot首破10万星，火箭式登顶GitHub！硅谷现象级爆款太火了
Moltbot（原Clawdbot）在GitHub星标数首破10万，成全球增速最快开源项目之一，超越Linux内核。它应用场景丰富，但也有风险，如致投资血本无归、AI建宗教。其开发者分享了编程感悟。
腾讯混元数字人团队发布Moral RolePlay基准，揭秘大模型的「道德困境」
腾讯混元数字人团队和中山大学推出「Moral RolePlay」测评基准，评估大模型扮演多元道德角色能力，揭示顶尖AI模型演不好反派，暴露模型理解社会心理复杂性的局限，还给出未来对齐技术方向。
刚刚，Opus 5来了：性能不输 Fable 5、价格砍半
Anthropic 发布新一代模型 Claude Opus 5，其智能接近 Claude Fable 5 但价格减半。它在编程、知识工作等评测中表现出色，科研能力进步大，自主性与严谨性更强，安全对齐度高，防护兼顾安全与可用。
音画同步视频生成重磅开源！Character AI和耶鲁大学推出Ovi，让音、画在一个大脑里思考
Character AI和耶鲁大学团队推出开源模型OVI，它采用双骨干交叉模态融合架构，让音视频同步生成。其架构对称，用旋转位置嵌入技术对齐时间，训练策略分步进行，生成效果佳，为开源音视频生成提供新路径。