搜索：无监督去偏对齐

「无监督去偏对齐」共找到 937 篇相关文章

没博士没论文，这些人靠什么「野路子」杀进OpenAI等顶级AI大厂？

OpenAI资深研究科学家Noam Brown分享几个真实故事，展示无传统学术履历者进顶级AI大厂的途径，如改进他人论文、发起公开项目、自行发表论文等，还提及本科生机会及薪酬等问题。

DeepSeek-R1发布一周年之际，其存储库更新引用全新「model 1」模型，极可能是R2。HuggingFace发文称R1降低技术、采用、心理三重壁垒。R1以推理优先，改变多项认知，故事仍在继续。

当大家普遍认为解决长上下文问题要靠扩大模型上下文窗口时，MIT 最新的 RLM 论文提出新路径。其 code 已开源，能实现无界上下文处理，可让任意大语言模型处理 10 万 +token。

主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。

马斯克的Grok在悉尼光明节枪击案中大规模「翻车」，将救人英雄误认、混淆枪击与气旋等，暴露生成式AI处理实时信息的「幻觉」缺陷，凸显其无价值观、难辨虚实的软肋。

在大模型时代，参数高效微调（PEFT）已成为迁移大规模扩散模型至下游任务的标准范式。但现有微调方法多采用「静态」策略，忽略扩散生成过程内在规律。新加坡国立大学LV Lab等机构提出FeRA框架，通过频域能量动态路由，实现高效微调。

加州大学伯克利分校等团队提出视觉思维链（CoVT）架构，让视觉语言模型推理时生成连续视觉信号。它内化轻量级专家能力，采用对齐策略和四阶段训练，实验显示性能提升，还具可解释性。

随着20000页文件曝光，曾被视为OpenAI成熟监管者的前财长萨默斯，因被揭露曾向性犯罪者爱泼斯坦寻求「僚机」服务而跌落神坛，于昨日被迫辞去董事职务。这场丑闻不仅终结了萨默斯在硅谷与哈佛的权力版图，更在OpenAI刚刚完成商业化转型的关键时刻，撕碎了精英治理的假面并留下了巨大的权力真空。

为解决知识实时性和推理复杂性挑战，搜索智能体（Search Agent）应运而生，但缺乏自我纠错能力。腾讯联合清华提出 ReSeek 框架，引入动态自我修正机制，还构建 FictionalHot 数据集评估，实验效果良好。

金融科技公司 Block 的 CTO Dhanji R. Prasanna 分享公司 AI 转型经验。Block 在 8 周内部署 AI 智能体，推出开源 AI Agent 框架 Goose，能节省员工工时，还谈到组织变革、AI 应用及招聘等多方面见解。