「无监督去偏对齐」共找到 937 篇相关文章
VL-LN Bench：模拟「边走边问找具体目标」的真实导航场景
上海人工智能实验室等研究者完成VL - LN Bench，模拟真实导航场景。它构建自动化数据收集管线，依托InternVLA - N1训练评测。结果显示主动对话可提升表现，但当前方法在实例感知对齐等环节有短板。
YOLO12改进引入DINOv3少样本目标检测精度飙升，分享训练自定义数据集代码
Meta 人工智能研究院的 DINOv3 是基于自监督学习的视觉大模型，解决诸多问题且无需微调，在多任务表现出色。将其引入 YOLO12 后，在不同规模数据集上检测性能显著提升，还分享训练自定义数据集代码。
攻克结构化长文档检索难题！新框架让模型告别“结构性失明”
SEAL团队推出全新对比学习框架SEAL，通过带结构感知和元素对齐，将文档宏观层级结构和微观元素语义融入Embedding空间，提升模型对结构化数据的理解。在BGE - M3模型上提升了MRR@10指标，还开源了万级字数长文档数据集。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
马斯克的底裤要被扒光了！超级爆料一个多小时， xAI 工程师被火速解雇
xAI工程师Sulaiman Ghori在播客大赞公司与马斯克，3天后却被解雇，或因曝光诸多敏感信息。他讲述公司无官僚流程、多线并行高效，马斯克决策快且能快速解决问题，公司还测试虚拟员工等。
Sam Altman 又被告了！65亿美元收购Jony Ive 公司背后的精心「偷盗」大戏
智能耳机创业公司IYO将OpenAI和Jony Ive告上法庭，称其抄袭创意、盗用商标。IYO从2018年开始研发无屏幕智能耳机，投入超6200万美元，而OpenAI今年5月以65亿美元收购的IO公司目标与之相同，发音也一样。
DeepSeek还有多少个“郭达雅”？扒完27篇论文，我们发现了一群“多边形战士”｜甲子光年
本文梳理DeepSeek近两年27篇核心论文，发现其研发团队无部门墙，“兵团+小组”配合高效，顶级高校背景研究者多，研发不设限。虽核心作者被挖，但人才密度厚，技术路线已内化，还开放数据侦探工具包。
Anthropic 最新论文：阻止 AI 叛变的方法
Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。
第一名方案公开，代码智能体安全竞赛，普渡大学拿下90%攻击成功率
亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。
1 亿美元 ARR、不设 AI 硬件产品经理，Plaud 如何拿下全球百万用户？
2023年6月Plaud AI推出AI录音卡片Plaud Note，一年多交付30万台、ARR达1亿美元，今年7月全球出货量达100万台。Plaud中国区CEO莫子皓称其更像大模型公司，无真正对手，分享了产品观和招人标准等。