「人类偏好」共找到 1230 篇相关文章
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
OpenAI o3封王，4比0横扫马斯克Grok 4！全球大模型对抗赛完美收官
Kaggle AI国际象棋锦标赛中，OpenAI o3以4-0横扫Grok 4夺冠，这场比赛也被视为OpenAI与xAI的“代理人战争”。季军战里，Gemini 2.5 Pro击败o4 - mini获铜牌。大赛旨在检验大模型多方面能力。
Hinton能重新坐下了，什么时候开始的？
AI教父Geoffrey Hinton来上海了，他曾因腰伤近18年几乎无法坐下，如今却能安然坐下。本文讲述他科研生涯，从坐冷板凳到引领深度学习变革，又在AI发展巅峰时反思风险，提醒人们警惕。
ICCV 2025 | 清华&腾讯混元X发现「视觉头」机制：仅5%注意力头负责多模态视觉理解
本文聚焦多模态大模型，提出基于 OCR 任务量化注意力头视觉偏好的方法，发现仅不到 5%“视觉头”主导视觉理解。还提出 SparseMM 策略优化 KV - Cache 资源分配，经多基准评测，性能和效率表现优。
揭示隐藏联系：RLHF/DPO即对比学习！
大型语言模型输出符合人类价值观是挑战，主流技术RLHF复杂、昂贵且不稳定，DPO简化流程但有训练崩溃问题。论文揭示RLHF/DPO即对比学习，提出MIO算法解决DPO崩溃，实验验证其性能优势。
颠覆搜索引擎，下一代Agentic Deep Research！12家顶尖学术机构联手提出
在信息获取方式变革背景下，12家顶尖机构联合发布论文提出Agentic Deep Research，它由大模型驱动，可自动规划检索路径等，或颠覆传统搜索范式，且有基准成绩和TTS Law支撑，开源生态也在聚焦。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。
72小时AI生存挑战，发生了什么？
五源发起72小时AI生存挑战，7位不同背景参与者在封闭空间，仅用AI工具和100元资金生存并创造。有人训练AI朋友，有人创作作品。过程中暴露诸多问题，也让大家看到AI能力边界与未来可能。
Lex Fridman 对谈谷歌 CEO：追上进度后，谷歌接下来打算做什么？
Lex Fridman 采访谷歌 CEO Sundar Pichai，探讨谷歌在 AI 竞赛中的逆袭、搜索和广告的 AI 模式转变、模型发展、AI 编程提效、AR 前景、自动驾驶挑战等，还谈及 AGI 及 AI 对人类的影响。
奥特曼最新深度访谈：AI至今没有iPhone时刻！
OpenAI首席执行官山姆·奥特曼在深度对谈中复盘大模型发展，谈及砍掉Sora和自研浏览器聚焦平台，认为AI缺iPhone时刻，还分享ChatGPT决策过程、创业经历，提出从成功学经验等观点，反驳末日论。