「人类意图对齐」共找到 1446 篇相关文章
盘点2025年全球宕机事件，还有不用AI写代码的公司吗？
2025年Cloudflare、AWS等轮番宕机，“连坐”半个互联网。AI编程全面普及，虽提高效率，但可能让宕机更易发生、难提前发现。宕机最爱发生在变更后，AI编程使改动频繁，还让人类理解系统比例下降。
字节前技术负责人创业，联手清华姚班校友，编程智能体世界登顶
词元无限团队开发的编码智能体 InfCode，在权威 AI Coding 基准中登顶。它定义 AI 编程「工程时代」，有代码意图分析等亮点，背后是豪华团队，致力于构建商业闭环。
所谓“氛围编程”，不过是“技术债”的新马甲
本文编译自 Steve Krouse 演讲与博客，指出‘氛围编程’代码即遗留代码、‘技术债’，编程核心是理论构建。还认为工具优于智能体，代码是描述软件的正确媒介，人类大脑在编程中始终是核心。
AI有味觉了：分辨可乐和咖啡，只需“尝一尝”丨Nature
近日，科学家研发出基于石墨烯的人工味觉系统GO - ISMD，能模拟人类味觉反应，感知酸、甜、苦、咸准确率达90%，还能分辨可乐和咖啡，相关研究登《Nature》官网，有望助神经疾病患者重获味觉。
新教皇取名竟和AI有关？美国首任AI沙皇：AI四年内增长100万倍！
教宗良十四世取名是为应对AI带来的挑战，他认为这关乎人类尊严、正义与劳动。此前教皇也关注AI威胁并呼吁规范。同时，美国首任‘AI和加密货币沙皇’David Sacks预测AI四年内将增长100万倍。
Transformer已死？DeepMind正在押注另一条AGI路线
谷歌团队借鉴人类联想记忆，提出嵌套学习，解决AI「灾难性遗忘」问题。强调优化器与架构协同进化，构建联想记忆系统。HOPE架构在多任务表现出色，或开启AI从被动训练到主动进化大门。
龙虾也能当导演了！LibTV解锁全自动拍片，一句话从剧本干到成片
LiblibAI推出AI视频产品LibTV，是一站式AI内容创作社区。它把人和Agent当平等用户设计，人类可自由操控画布创作，也能让Agent一句话全自动出片，还集成多种模型，定价有竞争力。
GPT-5 Pro独立做数学研究！读论文后给出更精确边界，OpenAI总裁：这是生命迹象
OpenAI研究人员喂给GPT - 5 Pro一篇凸优化问题论文，它读完给出更精确边界及证明。虽成果被人类论文反超，但思路不同，显示其有独立探索能力，OpenAI总裁称这是“生命迹象”。
作为软件架构师使用 AI 的经验
Avraham Poupko 在 OOP 大会分享软件架构师用 AI 经验，认为软件架构师不会被 AI 取代，AI 适合探索权衡、提炼语言，但缺乏情境推理和情感智能，人类在这方面更有优势。
巨头垄断AGI，比天网更恐怖百倍!《终结者》导演卡梅隆炸裂警告
《终结者》导演詹姆斯·卡梅隆在「SCSP AI+Robotics Summit」上称，看好AI但对AGI保留态度。他警告科技巨头垄断AGI比《终结者》中「天网」更可怕，还探讨了AI与国家安全、「对齐」难题等问题。