新闻资讯7

OpenAI：关注AI对人类情感影响

AI寒武纪2025-06-05

AI 摘要

OpenAI的Joanne Jang：与其纠结AI是否有意识，不如关注其对人类情感福祉的影响。要平衡模型亲和力与不暗示内在生命，未来会扩展评估、深化研究并公开成果。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

OpenAI：Astra、GPT - 6训练因安全暂停

OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。

OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。

OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。

OpenAI Codex负责人Tibo指出，不同模型对同一段文字切分的token数不同，即便单token价格相同，最终账单也可能差异很大。他还提到，token无统一计量标准，跨厂商和新旧模型计数都难通用，真正重要的是每次成功结果的成本。