新闻资讯7

OpenAI：让AI学会「忏悔」自爆黑料

新智元2025-12-21

AI 摘要

OpenAI研究者提出「忏悔机制」，训练模型回答后自我报告是否违规。该机制让模型主动承认不良行为，提升可见性，虽处早期，但为AI安全训练提供新思路。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

前英伟达工程师：AI 终局是后台 Agent

前英伟达工程师、Sail Research 创始人 Neil Movva 认为当前 AI 行业陷“延迟陷阱”，AI 终局应是后台 Agent。他执行“算力拾荒者战略”，想降低智能成本，还指出 Transformer 架构有缺陷，互联网数据被吃光等问题。

8月25日，OpenAI公布自研推理芯片Jalapeño性能测试结果，首次给出其在多款公开大模型上的具体数据。该芯片在低功耗下实现高推理吞吐量和低延迟，性能超英伟达芯片，B0版已进入制造阶段。

比尔·盖茨在与《麻省理工科技评论》的采访中表示，AI在多方面已跨过临界点，但行业外缺乏讨论。他警告生物恐怖主义风险，提出‘人类保留岗位’、征税等政策设想，也看好AI在部分领域价值。

消息称Anthropic本周将发布Opus 5.1，其升级聚焦单Token智能水平，强化编程、推理、AI Agent能力；OpenAI 10万亿参数模型Bel完成预训练；企业选模型‘够用就好’，Anthropic Fable 5份额低。