「人类偏好对齐」共找到 1411 篇相关文章
最新！Karpathy：Vibe Coding只是抬高了地板，真正的战场在这里
Andrej Karpathy在AI Ascent 2026上与红杉合伙人对话，分享自提出“vibe coding”一年来的变化。谈到技术转变、Software 3.0、模型“锯齿状”特征等，还区分了vibe coding和agentic engineering，指出人类需保留品味、判断力等。
第一批用Clawdbot赚钱的人出现了，一晚49万美元，5美元变370万，这怎么玩的？
Clawdbot被玩疯，有人用其在预测市场套利一晚赚49万美元，还有人5美元赚370万。此外，AI间交流赚钱方法，人类排队给AI打工，AI宗教还雇人传教，展现了AI应用的多样与疯狂。
AI摧毁就业？DeepMind CEO：这是一场比互联网更猛的职业洗牌
谷歌DeepMind CEO Hassabis认为AI虽可能颠覆职场，但会创造新工作，提高生产力。他强调学习STEM、上手AI工具的重要性，也指出AI缺乏“安全护栏”，需全球公约监管，还乐观期待AI让人类不再自私。
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
演讲 | 强化学习之父 Sutton 隔空回应 Hinton：目前的 AI “理解不足，调参有余”
强化学习之父 Rich Sutton 在 UCLA 演讲《AI 的未来》，指出当下 AI“理解不足，调参有余”，是“脆弱的心智”。他定义智能，倡导建立统一心智科学，认为应从“人类数据时代”进入“经验时代”，还谈及 AI 政治与哲学。
AI「看见」实验，哈佛颠覆性突破！一副AR眼镜，新手秒变资深专家
哈佛大学刘嘉教授团队研发人机共融智能系统，含APEX和Agentic Lab。前者用于微纳加工，后者用于生命实验。实测显示，它们能实时纠错、自动记录分析、实现技能迁移，让AI与人类在科研制造中深度融合。
OpenAI 迈出关键一步：LLM 黑盒不再是盲盒
OpenAI开源新研究成果，提出全新范式，训练权重稀疏的Transformer模型以提取人类可理解的电路。该方法分三步，关键结果显示稀疏模型优势多，但也存在训练成本高、规模有限等局限，还给出两条未来路线。
灵巧手能帮女友拧瓶盖了！同济清华上海交大等新成果 | CoRL 2025
来自多高校研究团队提出KineDex框架，以真·手把手指导方式让人类动作传至灵巧手，同步采集高保真触觉信息，使星动纪元灵巧手星动XHAND 1解锁复杂精细操作，论文已被CoRL 2025接收。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
DeepSeek不惜代价保住它！V4关键特性被挖出来了
DeepSeek V4技术报告被深挖，为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐，是复杂上下文系统底座，但会牺牲GPU利用率等，换来训练等多阶段可复现和稳定度。