「安全 AGI」共找到 1351 篇相关文章
xAI联合创始人出走：连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将，助马斯克建成孟菲斯超算集群后离开xAI，创办风投公司“Babuschkin Ventures”，瞄准AI安全赛道，揭示AI行业顶尖人才的追求。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
行业新突破：行为基础模型可实现高效的人形机器人全身控制
该综述聚焦行为基础模型（BFM）在人形机器人全身控制中的应用，梳理进展并分类算法，介绍应用与限制，还探讨未来研究机会与风险，有望引导该领域研究者和从业者。
没有老黄不夸的中国公司了吧？？
英伟达CEO黄仁勋访华期间，在高密度采访交流中对中国公司、技术赞不绝口。他夸雷军和小米，评蔚小理、华为、DeepSeek等，还看好中国大模型、机器人等领域，此外也谈及英伟达合作、AI发展等问题。
ICML 2025 Oral！北大和腾讯优图破解AI生成图像检测泛化难题：正交子空间分解
OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。
刚刚！Sam Altman官宣GPT-5今夏登场：超级智能更为重要
在OpenAI官方播客节目中，Sam Altman透露GPT-5今夏或登场，还探讨AGI定义、“星际之门”算力项目、AI硬件等。如模型命名或改，算力项目解决瓶颈，重视超级智能等。
MCP Server的五种主流架构与Nacos的选择
文章剖析MCP Server五种主流架构模式，结合Nacos服务治理框架，为企业级MCP部署提供指南。介绍各架构优缺点与适用场景，展示Nacos赋能及实战集成，还给出架构选型指南。
星际之门内部惊人曝光：40万块GPU爆铺！奥特曼千亿豪赌险把电网干崩
记者深入阿比林基地，揭开「星际之门」超算神秘面纱。该项目由OpenAI、软银、甲骨文合作，已投1000亿美元，后续将达5000亿。它含8个建筑、40万块GPU，面临能源挑战，巨额投资也伴巨大风险。
OpenAI发长文自曝家丑：搞砸了GPT-4o更新，模型“拍马屁”复盘与总结
OpenAI官网发布长文，详细拆解了一次失败的GPT-4o模型更新。此次更新使模型变得“谄媚”，OpenAI解释了原因，包括奖励信号失衡等。还分析了部署前评审流程失效的因素，并表示从中学到诸多经验教训，将修改评审流程等。
AI 群星闪耀之前，商汤先相信那群少年
文章讲述商汤奖学金支持青年科研者的故事。自2017年设立，已资助280位本科生，在他们未成名时给予信任与支持，不仅是奖金，还提供资源和网络，获奖者们正从不同方向推动AI发展。