「安全 AGI」共找到 1350 篇相关文章
谷歌DeepMind设立首个AI哲学家岗位，解决AGI伦理困境
谷歌DeepMind新设全职哲学家岗位，由剑桥学者Henry Shevlin出任。当下人们对AI恐惧渐入现实，而大众常用AI让AI意识成社会问题，这凸显了哲学家解决AGI伦理困境的必要性。
95%的人不知道什么是AGI，也不知道他们将很快失业
哈佛教授抛出AI致大量岗位消失国家该如何应对的问题。Anthropic CEO称AI或在1 - 5年内消灭一半入门级白领工作。关于AI与劳动力市场讨论升温，网友也各抒应对之策，而多数人对AGI威胁浑然不觉。
2025 中国最具价值 AGI 创新机构 TOP 50 调研启动征集！
这一年AI发展迅猛，从产品到模型都有诸多突破。在此背景下，Founder Park发起调研，寻找在技术、商业与场景融合中率先突破的关键变量，将选出50家创新机构，申报截止5月31日。
规范对齐：回答前的深思，让安全与行为边界更清晰
OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。
AAAI 2026 Oral | 手机传感器正在泄露隐私？PATN实时守护隐私安全
移动应用获取手机传感器数据支撑重要功能，但带来隐私隐患。西安交通大学与东京科学大学在AAAI 2026提出PATN框架，基于对抗攻击思想，设计两大核心技术，能在多种场景下守护隐私安全。
Token需求狂飙千倍，22亿热钱涌向这家AGI Infra头号玩家
在AI基础设施成风口的背景下，国内AGI Infra头部玩家无问芯穹获超7亿融资，其Token调用量爆发式增长。随着AI产业进入Agent阶段，传统架构难适配新需求，无问芯穹以中立定位成Token经济枢纽。
刚刚，Anthropic 53页绝密报告曝光：Claude自我逃逸，将引爆全球灾难！
Anthropic发布53页报告预警，Claude Opus 4.6风险逼近ASL - 4，若自我逃逸将致全球失控。2026年AI领域状况频出，安全专家离职，多起危险事件凸显AI安全问题严峻。
GPT-5：没有AGI，失望和天花板，最具竞争力的可能是定价
刚看完GPT - 5发布会，整体令人失望。发布会现错误图片，市场反馈不佳，专家认为开发仓促。它有三个型号，基础性能表现不一，在部分测试中不如竞品，亮点是价格有竞争力，代码能力受开发者好评。
上海交大/上海AI Lab翟广涛：当评测不再重要，AGI就实现了
上海交通大学教授翟广涛认为完美的AI评测体系等同于通用人工智能。当下评测体系存在数据污染、原子化能力评测局限等问题，他主张回归‘以人为本’，团队提出相关框架和技术路径，目标是训评一体。
安全的下一个好赛道，非常值得研究
近几年机器人发展火爆，摩根士丹利预测到2050年产业规模或超5万亿美元。但机器人领域安全复杂，研究团队用CAI框架对三款消费级机器人渗透测试，揭示严重安全问题，且行业整体对安全无知。