「人类偏好对齐」共找到 1413 篇相关文章
在 AI 时代构建 MVP
文章围绕AI在构建最小可行产品（MVP）中的作用展开。它能在理解QARs、推动架构决策等多方面提供帮助，如提出被忽略的需求、缩小技术搜索范围等，但不能完全替代人类做决策。
OpenAI 的“编程”新范式？其实是瀑布模型的回魂：“听 PM 的话、写需求文档”
在今年AI工程师大会上，OpenAI研究员Sean Grove提出在AI驱动时代，清晰规范将取代传统代码成软件开发核心产物。他认为编程核心是结构化沟通，该转变是工程实践未来方向，但引发诸多讨论。
为什么我觉得AGI并不会马上到来
作者Dwarkesh Patel认为AGI不会马上到来。当前大语言模型缺乏持续学习能力，难以替代人类工作；计算机操作能力受训练周期、数据等限制；推理能力虽有突破，但仍需时间发展。作者给出了具体预测时间。
太多人误解了「苦涩的教训」
《“苦涩的教训”》一文常被误解，其核心观点是能充分利用计算资源扩展的方法会超越不能扩展的方法。人类知识短期易获好结果，但长远看，唯有随算力增长的方法最终胜出，如深蓝、AlphaGo Zero的案例。
Transformer八周年！Attention Is All You Need被引破18万封神
Transformer已满8岁，其开创性论文《Attention Is All You Need》被引超18万次，掀起生成式AI革命。它催生诸多前沿产品，让人类跨入生成式AI时代，虽起初未受关注，但如今影响深远，谷歌态度也在改变。
谷歌CEO劈柴震撼预言：2030年AI直逼超人智能，80亿人认知被颠覆
谷歌CEO劈柴在采访中称AI是人类历史上影响最深远的技术，进步极快且能力上限未知。他谈到AI会释放80亿人认知潜能，还从多方面阐述了AI对各领域的影响及未来发展。
Claude 4 核心成员访谈：提升 Agent 独立工作能力，强化模型长程任务能力是关键
Anthropic 两位研究员在采访中表示 2025 年强化学习在大语言模型训练奏效，如 Opus 4 能处理长周期任务。还探讨模型发展方向，如用户与多模型交互、模型可解释性等，认为未来会有白领 AI 员工。
强化学习大本营新作：如何破解「学新忘旧」困局
阿尔伯塔大学强化学习团队提出FAME框架，解决持续强化学习“学新忘旧”问题。团队先定义基础概念，将知识整合写成优化问题，再受人类学习机制启发设计FAME，实验优势明显。研究还探讨持续学习的产业价值。
把 Gemini 和 GPT 放到《我的世界》当教练，谁能看懂机器人的微操？
国立清华与英伟达团队研究《VLM-AR3L》，把Gemini 2.0、GPT-4.1等拉进考场，评估视觉裁决能力。结果显示Gemini综合最稳，开源小模型特定场景反超。还提出VLM-AR3L框架破使用瓶颈，实战超人类手写奖励。
15岁进少年班，97后打造「元点机器人宇宙」：全栈技术自研领跑家庭机器人赛道
元点Zeroth发布全尺寸人形Jupiter和异构机械臂家庭协作机器人N1，强调与人类长期共生关系。其创始人是97年的郭人杰，公司已累计融10亿。元点有全栈技术体系，走渐进式落地路线。