搜索：人类偏好对齐

「人类偏好对齐」共找到 1411 篇相关文章

Google 亲手证明：GUI 已死，但尸体还在动

Google DeepMind发布Flash - Lite Browser，能用Gemini 3.1 Flash - Lite实时生成网站。它表明GUI连预先设计都不需要，界面正发生三层分化，虽有不足，但展现界面从预制到即时生成的趋势。

著名数学家陶哲轩在与播客主持人Dwarkesh Patel的对谈中分享使用AI一年后的观点，认为AI已将想法生成成本降至几乎为零，但验证和评估成新瓶颈，还探讨其对数学研究的影响及未来发展。

菲尔兹奖得主陶哲轩在与播客主理人访谈中称，在普林斯顿埋头搞学术让他灵感枯竭，数学家需生活琐事激发想法。还探讨科学研究，如开普勒定律、AI在数学研究的应用、科学评估等问题。

字节的小云雀短剧Agent上线，以Seedance 2.0为底层模型。它能根据剧本或设定自动生成高质量短剧，提升了AI短剧创作效率，且不挑风格。文中还介绍了使用流程及剧本创作方法。

扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。

OpenAI开除一名利用公司核心机密在预测市场下注牟利的员工。调查发现过去一年多，60个神秘钱包做出77次精准押注。不止OpenAI，其他预测市场平台也出现内幕交易案件，平台陷入尴尬处境。

OpenClaw曾引发安装热潮，如今因安全风险引发卸载潮。国家相关部门发布风险提示，网上出现卸载服务。而GenericAgent既能装也能卸OpenClaw，还能自我卸载，展现出硬核技术。

Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。

本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。

Moltbot（原Clawdbot）在GitHub星标数首破10万，成全球增速最快开源项目之一，超越Linux内核。它应用场景丰富，但也有风险，如致投资血本无归、AI建宗教。其开发者分享了编程感悟。