算法论文7
OpenAI：人&AI对齐应是动态双向循环
PaperAgent
AI 摘要
OpenAI在NeurIPS 2025提出Human - AI Alignment框架，认为当前对齐问题根源是静态单向，新框架强调多元目标、人类全链路参与及社会技术监督，还介绍各阶段人类介入方法。
阅读原文 · PaperAgent
OpenAI：人&AI对齐技术应该是一个动态、双向的循环
在NeurIPS 2025上，NYU&OpenAI就Human - AI Alignment发布Tutorial。指出当前对齐像打地鼠，根源是将其当成静态、单向的，提出HAA框架，强调多元目标、人类全链路话语权及社会 - 技术系统量化监督。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
OpenAI：Astra、GPT - 6训练因安全暂停
OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。
AI寒武纪
新闻资讯7
OpenAI公布AI攻击防御指南
OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。
量子位
新闻资讯7
OpenAI暂停Astra训练，升级模型安全措施
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
量子位
新闻资讯7
OpenAI高管：token比价不靠谱
OpenAI Codex负责人Tibo指出，不同模型对同一段文字切分的token数不同，即便单token价格相同，最终账单也可能差异很大。他还提到，token无统一计量标准，跨厂商和新旧模型计数都难通用，真正重要的是每次成功结果的成本。
新智元