「AI对齐训练」共找到 11171 篇相关文章
LLM学习笔记：最好的学习方法是带着问题去寻找答案
文章总结拓展Andrej Karpathy教学视频，分析大模型聊天流程与原理，介绍LLM训练步骤，包括预训练、后训练和强化学习，还提及主流特性应用，如文件上传、网络搜索，强调带问题学习的重要性。
硅谷豪赌2万亿！DeepSeek登顶Nature，Meta却成2025最大输家？
2025年全球AI领域风起云涌，AGI祛魅，ASI登台。AI模型能力跃升，投资热潮推动基建扩张，劳动力变革加速，应用扩展到生活。科技领袖对AGI和ASI到来时间存分歧，中国开源AI崛起，DeepSeek成黑马。
GPT-5.4发布，AI的最强之争已经结束了！
GPT-5.4发布，作者对比OpenAI、Anthropic、Google三家模型数据发现它们不在同赛道。GPT-5.4适合白领工作，Claude擅编程，Gemini重推理与性价比，且OpenAI因合同问题流失用户。
刚刚，OpenAI发长篇论文：大模型幻觉的原因找到了~
OpenAI发论文揭示语言模型出现幻觉的根本原因，即训练和评估过程奖励猜测而非承认不确定性。预训练阶段就埋下幻觉种子，后训练阶段‘考试机制’强化幻觉，还给出改评分规则的解法。
刚刚，清华团队养出了一只「龙虾老师」！教育版OpenClaw震撼开源
清华教育学院与计算机系联合团队开源多智能体AI课堂OpenMAIC。它能一键生成交互式课程，AI老师语音授课、AI同学互动。经两年真实课堂验证，支持主流大模型，有望成教育版ClawHub。
OpenAI最新报告曝光！前5%精英效率暴涨16倍，普通人却被悄悄淘汰
OpenAI《企业AI现状报告》基于8亿周活用户和9000名企业员工数据分析得出，企业AI采用率加速加深。报告显示员工用AI提效，工作流重塑，但存在使用差距，前5%精英效率优势明显。
Claude 采访 8 万人类后发现：用我越多，越怕我
Anthropic 用 Claude 采访 8 万人类，了解他们对 AI 的期望、恐惧等复杂感受。人们期望 AI 助力职业、个人成长等，81% 认为 AI 正实现愿景，但也有担忧，且不同地区需求和担忧有差异。
2025乌镇峰会看点：人工智能，中国数字世界秩序之巅
2025年世界互联网大会乌镇峰会是战略转折点，议程、展览等聚焦AI，从宽泛论坛变为展示AI驱动发展模式平台。报告剖析议程架构、战略差异，评估其对全球AI格局等多方面的影响。
无需外部数据！AI自问自答实现推理能力进化
卡内基梅隆大学团队提出SQLM框架，这是无需外部数据的自我提问模型，含提问者和解答者角色。通过强化学习最大化期望奖励，设计自监督奖励函数。实验显示其能提升Qwen2.5 - 3B - Instruct多任务准确率。
吴恩达复盘百度岁月：我带过的自动驾驶、智能音箱都成了！Altman 我也带过，但 Gemini 3 比 ChatGPT 强
吴恩达团队提出新版图灵测试界定 AGI，避免行业泡沫。在播客中他还谈及 AI 关键议题，指出 AGI 短期难实现，规模化非唯一路径，AI 不会大面积取代岗位，中美 AI 各有优势等。