「人类偏好对齐」共找到 1411 篇相关文章
GPT-5的所有传言，以及，Sora 2？
OpenAI今晚1点举办直播，GPT - 5将亮相。发布前关键信息汇总，包括直播时长变长、GitHub泄露四个版本、三档定价策略、突破人类基准测试等，还或同步发布Sora 2。
OpenAI拿下IMO金牌，职业数学家崩溃：我终于明白李世石为何会落泪
AI在IMO获金牌，数学家Dave White自我认同崩塌，认为这是一种‘死亡’，探讨AGI带来的身份危机。加密教授Adam Cochran则从哲学视角回应，称人生身份重建与崩塌不断循环，真正的‘自我’超越单一标签。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
中科院“二氧化碳制糖”新成果全网热议！不依赖光合作用，“迈向深空前置技术”
中国科学院天津工业生物技术研究所提出新技术，首次构建体外转化系统，打通“CO₂→甲醇→蔗糖”合成路径。绕过植物光合作用制糖，能耗低、效率高，对解决全球变暖、粮食危机有启发。
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
中科院开源PPT Agent，一键自动生成PPT智能体
中科院软件所等联合开源PPT Agent，它能分析参考幻灯片，按人类流程分两阶段生成PPT，有自我修正功能，测试显示在多维度优于现有方法，极大节省用户时间精力。
GPT-6来了，立摘ASI坐标系今日金牌！
OpenAI 正式发布 GPT - 6 Astra，在多项测试中表现优异。近期 Anthropic、谷歌也有新模型发布。马斯克、Altman 对 AI 发表看法。新智元决定做 ASI 坐标系，相关官网 9 月 7 日上线，现征集需求。
GPT-5.6仅用一天改写数学史，「双菲」五人团队8年纪录被破！
GPT-5.6一天打破陶哲轩五人团队8年大素数空隙纪录，提出「倾斜剩余类」构造法，当天通过Lean语言机器验证。此前数学家张益唐、陶哲轩等在素数分布问题上各有探索。
AI能否独立开展科研？ASI-Bench为科学自主性建立评测标尺
ASI-Bench是衡量AI系统科学自主性的基准测试，由多机构联合开发。它能测试AI通用智能、创新性和执行力，通过信息梯度设计，让模型在不同指导量下完成科研任务，结果显示当前AI离自主科研有明显距离。
UCSD谢澎涛创业：用AI搞科研，4小时交付顶刊水平成果，已获数百万美金融资
谢澎涛团队推出面向AI for Science的AIBuildAI Science Agent，在NatureBench评测中排名第一，超多数通用编程智能体。该智能体可独立完成模型研发，效率大幅提升，还探讨了其能力边界、应用及对行业的影响。