「人类偏好对齐」共找到 1411 篇相关文章
上海AI Lab提出CANON：让RLVR自主识别优质推理模式
上海AI Lab与上海交大团队提出创新框架CANON，解决将人类先验知识融入RLVR训练的难题。它通过条件分组与对比机制，自适应放大有益指标变化趋势，在数学和逻辑推理任务上成果卓越，还能提升推理效率。
AI里最大的Bug，却也是人类文明最伟大的起点。
OpenAI论文指出AI产生幻觉是因其训练方式奖励瞎蒙行为。以考试为例，AI在信息不足时猜测是最优策略。还从统计学解释根源，指出解决幻觉需改变评估指标，也引发对人类想象力起源的思考。
训练数据量降低1万倍，谷歌提出超高质量数据主动学习方法
将大模型应用于特定领域需数据微调，但筛选高保真训练数据难度大、成本高。谷歌提出新主动学习筛选流程，能将训练数据规模降1万倍，还提升模型与人类专家一致性。经实验验证，该方法效果显著。
刚刚，MOSS孙天祥创业，直播AI4AI大规模科研
创业公司Analemma将全球公开直播部署端到端AI研究系统FARS，目标是全自动完成100篇论文，直播预计持续一个月。FARS是无人类干预、纯AI驱动的系统，能完成科研全流程。其创始人是孙天祥，团队年轻且获数千万美元融资。
美国版梁文锋来了
美国互联网券商巨头Robinhood的CEO Vlad Tenev投身AI创业，与Tudor Achim联合创立Harmonic AI，从数学突破开始，目前已完成B轮融资，估值达8.75亿美元，目标是构建数学超人类的AI系统。
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。
AI 时代的洞察方法论：结构化思维与能力迁移
文章以高盛数字化架构设计为例，探讨AI时代技术分析的能力迁移。指出AI使信息采集整合成本降低，技术分析重心从找信息转向构建模型，建模仍是洞察主战场，AI可加速知识铺垫，但模型切换需人类完成。
刚刚，全球最难考试惊天大反转！黑马AI冲破36%，顶流模型集体翻车
ARC-AGI-3测试中，顶级大模型Opus 4.6仅得0.2%，人类获满分。而Symbolica公司用Agentica框架首日就取得36.08%的成绩。该框架有独特技术路径和策略，但成绩未经验证，ARC-AGI-3被视为通向AGI的‘北极星’。
为什么GPT-5算得出微积分，却数不清积木？
文章对GPT - 5展开系统化空间能力测评，涵盖8个基准、超10亿token成本。提出“空间智能六维图谱”，发现GPT - 5在MM和SR达人类水平，但MR、PT等方面有短板，还揭示闭源与开源模型在复杂任务上差距小等情况。
20亿砸向00后创业机器人公司！估值一年暴涨7倍，国家级资本重仓
近日，灵初智能完成约20亿元天使轮及Pre - A轮融资，资金将用于物流场景落地与数据采集体系建设。其团队互补，突围逻辑是All in人类原生数据，自研采集方案，走“模型驱动数据”路径，定位“大脑驱动公司”。