搜索：人类偏好对齐

「人类偏好对齐」共找到 1411 篇相关文章

【博客转载】Row-Major VS Column-Major

文章探讨行主序和列主序存储多维数组的差异，以及对矩阵乘法性能的影响。指出不同存储顺序组合下矩阵乘法的偏好，还通过C++单线程实现和cuBLAS库验证分析，表明优化可减少性能差距。

患者被莫名病症折磨多年，医生无解，将病史输入ChatGPT后病因被识破。AI工程师认为医疗AI第二诊疗意见应成规范，有人称这是医疗界的「AlphaGo」时刻。微软等巨头布局，其MAI - DxO准确率超人类医生。

AI时代有人认为IDE要消亡，Andrej Karpathy却觉得IDE不会消亡，只是形态要变，需更大的IDE。他认为编程基本单元变了，还提出智能体组织可被fork，指出人类组织不透明等观点。

Ilya在与主持人Dwarkesh Patel的深度访谈中爆出惊人观点，认为Scaling时代已终结，我们正走向研究时代。他指出当前技术路线后劲不足，模型泛化能力远逊人类，还探讨了AI发展的诸多关键问题。

前脚谢赛宁宣告VAE在图像生成领域退役，后脚清华与快手可灵团队就推出无VAE潜在扩散模型SVG。它通过语义+细节双分支+分布对齐，实现多任务通用，训练提效62倍、生成提速35倍。

LLM在超长多轮对话中有上下文窗口有限、记忆系统昂贵的痛点。LightMem借鉴人类记忆机制，用三招重新设计LLM记忆，实验显示其准确率超基线，还降低token使用量、API调用和运行时间。

OpenAI 发布白皮书《Staying ahead in the age of AI》，基于与国际大公司合作经验，提炼出让团队变得 AI Native 的五大原则，即对齐、激活、放大、加速、治理，还给出各原则策略及反思问题。

Hybrid Schema - Guided Reasoning（SGR）是革命性AI研究智能体框架，用「两阶段推理 - 执行架构」和「持久化上下文记忆系统」，解决AI助手复杂研究任务的三大痛点，模拟人类研究过程，适用于多场景。

Resume Builder调查显示，65%美国管理者工作用AI，94%用其对下属决策，涵盖晋升、加薪等多方面。71%管理者对AI公平决策有信心，但不少人让AI无人类干预决策，且多数管理者缺相关培训。

苏黎世联邦理工学院新论文指出，`AGENTS.md` 文件可能常阻碍 AI 编码智能体。研究构建 AGENTbench 数据集测试，发现 LLM 生成文件降低性能，人类编写文件有边际收益但也增加成本，开发人员对此研究看法不一。