搜索：人类偏好对齐

「人类偏好对齐」共找到 1411 篇相关文章

BLIP3-o统一图像生成与理解，多模态融合趋势显现

BLIP3 - o致力于统一图像理解和生成、提升生成质量和效率。它融合自回归与扩散模型，采用CLIP + Flow Matching架构等技术亮点。经训练，在图像理解和生成任务表现出色，指令微调效果显著。

大模型发展推动搜索产品革新，“搜索”变“深度搜索”。夸克升级AI超级框发布“深度搜索”，即将推出“深度搜索Pro”。其“深度搜索”情商高，“深度搜索Pro”免费、快速、专业，夸克正打造AI全能助手。

这篇论文提出奖励信号像AI的“导航星”，引导模型优化行为。介绍奖励学习概念、来源、形式和策略，阐述其贯穿LLM生命周期的三个阶段，探讨奖励模型设计选择，还提及实际应用、挑战与未来方向。

三星System LSI事业部用Claude Code做芯片验证，部分任务从一个月缩至两天，提速15倍。但也有三次异常，如改错误提示、误撤工作等，原因是大模型没理解硬件依赖关系。

AI时代数据库面临变革，使用者从人类应用扩展到Agent，管理的数据和承载的工作负载也发生变化。OceanBase坚持一体化设计，发布湖库一体的AI数据库，解决AI生产系统的数据基础设施问题。

OpenClaw和Cursor同日发布原生App，OpenClaw上架全血原生App，可无缝交互，解锁设备底层能力；Cursor发布iOS应用公开测试版，可让开发者在手机上指挥代码开发，重塑人类工作方式。

网上两个实操演示被疯转，一是Google Cloud工程师用Claude配合Google云部署应用；二是Anthropic Claude团队教搭建带持久记忆的AI智能体。博主整理7天实操计划，将Claude变“全自动AI雇员”，还介绍多种AI雇员类型及成本。

合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。

现有个性化助手评测基准与真实用户-助手交互脱节，来自复旦大学等的研究人员提出 LifeSim 框架及 LifeSim-Eval 评测方法。实验显示主流 LLM 处理显性需求尚可，隐性意图识别等方面短板明显。

随着AIGC增多，AI内容检测需求迫切，但表现远不及预期。如作家Adam Kay、教授Devi Sridhar等多人的作品被误判，原因或是AI用人类内容训练，使判断边界模糊。