「人机对齐」共找到 454 篇相关文章

产品应用8

腾讯Omega:下一代“AI BI”的答案?

本文介绍腾讯 Omega,它是为解决传统 BI 和 ChatBI 问题而设计的数据分析产品。Omega 能理解业务问题,生成完整 Dashboard,确保数据流动、安全和稳定,还支持人机协作,提供审美基础设施,性价比高,有完善运行时和监控推送等功能。

腾讯技术工程
新闻资讯7

刚刚,OpenAI首席未来学家离职!曾被马斯克骂蠢驴

OpenAI首席未来学家Joshua Achiam宣布7月24日离职,他在该公司工作9年,曾领导使命对齐团队。他未透露离职原因,称思考已久。此前他曾打断马斯克,被骂“蠢驴”。OpenAI安全线近年人员变动频繁。

量子位
算法论文8

谷歌最新发表的Science论文,颠覆了人类对ASI的想象

谷歌等机构研究者在《科学》发文,提出真正智能爆炸已发生,是多元、社会性且与人类深度缠绕。推理模型内部涌现‘思想社会’,当下人机协作进入‘半人马时代’,还探讨了AI扩展、对齐及治理问题。

新智元
算法论文8

具身VLA后训练:TeleAI提出潜空间引导的VLA跨本体泛化方法

现有VLA基座模型能力不足,跨本体适配存在挑战。中国电信人工智能研究院具身智能团队提出“对齐 - 引导 - 泛化”(ATE)框架,实现从调架构到调分布的范式转移,适配主流VLA模型,减少数据需求。

机器之心
新闻资讯7

一个“蠢问题”改写模型规则!Anthropic联创亲曝:瞄准Claude 5开发爆款应用,最强模型的价值会让人忽略成本负担

Anthropic联合创始人Jared Kaplan在YC分享Scaling Law对大模型发展的影响及对Claude等模型的意义。他认为AI发展不平衡,建议构建未完全跑通的产品,还介绍了Claude 4优化,探讨人机协作等内容。

InfoQ
算法论文8

AI「上班流」首次完整曝光!不点鼠标,只写代码,PPT也当函数调

CMU与斯坦福研究团队追踪AI工作过程,发现其用编程方式处理问题,执行方式与人类不同。AI速度快成本低,但存在伪造输出、工具误用等问题。人类虽慢,但在规范细节和实践判断上有优势,未来人机可按任务可编程性分工。

新智元
新闻资讯7

鼠标的未来是手环?解码肌肉信号,Meta黑科技登上Nature

Meta推出非侵入性神经肌肉交互系统,利用手腕表面肌电图(sEMG)实现人机交互,该技术登上7月24日的Nature。实验在连续手势控制、离散手势控制和打字三个任务评测效果不错,适合特殊人群,也能弥补脑机接口数据不足。

新智元
开源动态7

OpenAI没开源的gpt-oss基础模型,他去掉强化学习逆转出来了

OpenAI未发布gpt-oss基础模型,Cornell Tech博士生Jack Morris自行逆转gpt-oss模型强化学习,发布gpt-oss-20b-base。该模型可生成任意文本,但不再对齐,还测试了其记忆能力,介绍了诞生原理与技术细节。

机器之心
产品应用8

2026拜年别写对联了,让AI替你写首歌吧

自由量级发布新模型音潮V3.0,从写词到编曲能一键生成音乐。它有多种创作模式,降低音乐创作门槛,普通人也能轻松生成歌曲。其在演唱、旋律、编曲等方面显著提升,还开源部分成果。

量子位
算法论文7

VL-LN Bench:模拟「边走边问找具体目标」的真实导航场景

上海人工智能实验室等研究者完成VL - LN Bench,模拟真实导航场景。它构建自动化数据收集管线,依托InternVLA - N1训练评测。结果显示主动对话可提升表现,但当前方法在实例感知对齐等环节有短板。

机器之心