「人类意图对齐」共找到 1449 篇相关文章
卡帕西大模型横评方法太好玩了！四大AI匿名参赛评分，最强出乎意料
卡帕西发布“大模型议会”web app，系统通过OpenRouter调起多模型开会商议，各模型答题、互评、排序，由主席模型给出统一答案。可对比模型差异，模型自评与人类主观或不同，多模型集成或成突破点。
别再问什么工作被AI取代！Karpathy直指本质：你的工作「可验证」吗？
前特斯拉AI负责人Andrej Karpathy提出，软件1.0自动化能指定的任务，软件2.0自动化能验证的任务。判断任务能否被AI接管，关键看是否满足可重置、可高效试错、可自动奖励三条准则。
95% 企业 AI 落地失败当下，另外 5% 的 CIO 在谈什么？
文章指出 95% 企业 AI 落地失败，痛点在于认知难对齐、技术业务错配、价值度量模糊、数据底座不佳。阿里云蒋林泉等 CIO 探讨解法，提出 RIDE 方法论，还分享太古可口可乐、顺丰等企业的 AI 落地经验与智慧。
强化学习 AI 系统的设计实现及未来发展
本文是阿里巴巴算法专家曹宇在AICon 2025北京站的分享。从RLHF系统出发，结合实践展示RL系统现状与发展，探讨超大规模RL方向，涉及理论、业界实践、开源生态等，还介绍了AICon北京站活动。
碾压超算13000倍！1个月内，谷歌量子AI连斩诺奖+Nature封面
谷歌宣布人类首次在真实硬件上，让量子计算机成功运行可验证算法，性能超全球最快传统超算13000倍，成果登上Nature封面。此突破让实用量子计算机更近一步，不过也有学者对此表示怀疑。
首位AI女演员出道！好莱坞「天敌」来了，下一代偶像全是代码制造？
9月底苏黎世电影节上，AI制作公司Particle6打造的AI女演员Tilly Norwood亮相引热议。这意味着AI视频生成技术正加速渗透影视行业，也引发了关于AI演员是否会取代人类演员等诸多争议。
AI花17小时写了篇30页学术论文！自主选题，包含实验，还符合APA格式规范
Virtuous Machines AI系统花17小时、114美元，找288个真人做实验，写了篇30页认知心理学领域学术论文，从选题到成稿全自动化。其架构独特，不过也存在理论误解等小缺点。
LangExtract：用LLM 一键完成长文档信息抽取与可视化
在2025年大语言模型迅猛发展时，信息抽取成了NLP场景里的“硬骨头”。Google在7月30日开源的LangExtract利用多种LLM，实现“按指令抽取+源文对齐 + 一键可视化”的完整闭环，还给出使用步骤和进阶操作。
奥特曼爆料：GPT-5重构彻底一切！一人顶五个团队
GPT-5的发布或是一场技术变革。奥特曼在对谈中给出未来清单，谈到年轻人学习方向、创业思路等。他认为GPT-5是大飞跃，年轻人要掌握AI工具，还提出评估大模型智力新指标等。
Learn to Reason _ The way of Baichuan-M1-ClinicReasoning
前百川智能研究小组负责人阎栋分享大语言模型临床推理。回顾推理技术发展，以Deepseek为例；介绍百川在医疗推理实践，模型达三甲主治水平；还谈及大模型训练困境及与人类智能差异。