「对齐风险」共找到 728 篇相关文章
你的衰老速度被科学家拍出来了| Nature子刊
Nature子刊研究推出新指标DunedinPACNI，不看身份证年龄，看“脑年龄”。其数值越高，脑功能衰退风险越高。该指标已开源，或助人们检测身体状况、调整生活方式。
让机器人看视频学操作技能，清华等全新发布的CLAP框架做到了
近日，清华联合星尘智能、港大、MIT提出 CLAP 框架，能将视频运动空间与机器人动作空间对齐，解决‘数据饥荒’‘视觉纠缠’等问题，可让机器人从视频学技能，还缓解知识迁移难题，推动机器人产业化。
当中国AI喊出「开源脑机」，马斯克站到全网的对立面
中国AI「论论全球」直播呼吁开源脑机接口，引发海外热议，将马斯克旗下闭源的Neuralink推上风口浪尖。它指出脑机接口安全风险大，窗口期只剩1 - 3年，还提出开源科技文明构想。
Sam Altman最新博文！温和的奇点
OpenAI CEO Sam Altman在新博客《The Gentle Singularity》中探讨AI进步远超想象时世界的变化，提及AI将在多方面做贡献，还给出未来几年AI发展预测，指出要解决安全和对齐问题。
拒绝OpenAI和Anthropic邀约，DeepMind安全研究员离职转向独立测评
本文报道，多名头部AI机构研究员因AI安全顾虑离职，DeepMind AGI安全研究员Engels拒绝OpenAI、Anthropic邀约，加入独立评测机构METR，围绕AI递归自我改进失控风险展开讨论。
担心被曝“于谦门”，57岁的于谦到底用龙虾做了什么？
于谦视频播客《多新鲜呐》最新一期，本质是“AI产品用户体验公开测试”。于谦作为测试员，关注点在结果、省事、风险等，节目把技术叙事换成生活叙事，帮AI面向大众转译。
人类画了100年的脑图，AI仅用几小时！还绘制出新脑区
加州大学旧金山分校团队提出CellTransformer算法，几小时完成5只小鼠脑图谱绘制，还绘出新脑区。该算法能准确对齐已知脑区，可扩展到多动物数据集，未来有望用于人类大脑及其他器官研究。
单季营收破2000亿美元，半导体行业加速增长
2025年第三季度全球半导体行业营收达2163亿美元，首破2000亿。增长源于AI与HPC需求、下游补库及产能技术进步。产业链全面繁荣，但也面临地缘、需求分化和产能过剩风险。
Anthropic 为 Claude Code 添加了沙箱和 Web 访问功能，以实现更安全的 AI 驱动编码
Anthropic为Claude Code发布沙箱功能及基于Web的工具版本，解决编码安全风险。沙箱有文件系统和网络隔离两个边界，能减少权限提示、增强保护，还解决了传统安全系统的限制。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。