「AI对齐」共找到 9817 篇相关文章
Token纪元：从「马力」到「人天」再到「兆字元时」的认知革命
文章指出，AI时代需全新生产力计量单位“马斯”。字元是AI“语言燃料”，但缺乏统一计量体系。智能社会的容量、速度、价格是关键指标，当前AI算力网络停在2G时代，AI劳动力崛起将重构就业，Token或引发文明跃迁。
OpenAI总裁：AGI时代来了！GPT-6已能自主干活24小时
本文报道OpenAI总裁Greg Brockman在a16z访谈中的发言，Brockman宣布已进入AGI时代，介绍GPT-6的能力跃升，分享OpenAI在AGI发展、AI安全对齐等方面的最新判断与动作。
赌自己会失业！田渊栋八人天团狂揽44亿元，杀入「递归进化」赛道
Recursive Superintelligence由八位顶尖AI研究员创立，获GV、英伟达等投资6.5亿美元。他们要让AI自我训练，实现递归自我进化，若成功或使AI研究员岗位消失。此前已有相关成果，产品端Anthropic也在推进AI主动性。
Auto Research时代，47个没有标准答案的任务成了Agent能力必测榜
Einsia AI旗下Navers lab发布Agent Benchmark——Frontier-Eng Bench，让AI在47个多学科交叉的硬核任务中做工程优化，测试其迭代优化能力。研究总结出AI进化规律，初步勾勒接近真实工程循环的AI系统。
奥特曼马斯克豪言：我们已进入奇点！AGI加速窗口已至
新智元报道，奥特曼和马斯克都认为奇点已至，当下处于AGI加速窗口。OpenAI曾靠资源猛追让Codex逆袭。但AI发展也引发担忧，如人类能否保持理智、安全对齐进展不明等。
腾讯混元数字人团队发布Moral RolePlay基准，揭秘大模型的「道德困境」
腾讯混元数字人团队和中山大学推出「Moral RolePlay」测评基准，评估大模型扮演多元道德角色能力，揭示顶尖AI模型演不好反派，暴露模型理解社会心理复杂性的局限，还给出未来对齐技术方向。
联手 OpenAI 发布 ACP，Stripe 是如何思考 Agent 支付的？
今年 9 月，OpenAI 与 Stripe 联合推出 ACP，重新定义支付。本文整理了 Stripe 的 Head of Data & AI Emily 的访谈，介绍 ACP 本质、Stripe 与 AI 公司的商业模式探索，以及 Stripe 自身的 AI 应用和对 AI 宏观影响的看法。
40位数学家组成8队与o4-mini-medium比赛，6队败北
Epoch AI安排40位数学家组成8支战队，与OpenAI的o4 - mini - medium模型对决，考题来自高难度的FrontierMath数据集。结果AI以6:2击败人类，不过Epoch AI认为AI未明显超人类，但很快会达到。
百度：和大家一起讲 「超级有用」的故事
作者参加百度AI DAY智能云创新行业专场，看到百度全栈AI解决方案矩阵及应用案例。百度通过构建生态、全栈自研、推动科技平权等举措发力AI，诸多应用已取得商业成果，有望在AI商业化长跑中胜出。
视觉语言模型“扫地僧”：360低调开源FG-CLIP2登顶29项全球基准测试 | 甲子光年
两周前，360人工智能研究院低调开源FG - CLIP2，它在29个公开基准测试中超越Google和Meta的模型。该模型实现局部细粒度识别和原生双语对齐，为AI视觉理解设新基准，已服务开发者并在多领域落地。