「人机对齐」共找到 454 篇相关文章
创新中心 | “影视AIGC实战进阶”专题活动,亮相第八届初心榜!
AIGC全面融入影视产业,重塑创作方式等。‘AIGC影视应用专题对话’作为第八届初心榜青年视听展重要环节,将在首创·郎园Station举行,汇聚多领域力量探讨影视AIGC落地实践。
人生周报v044:费曼
文章围绕AI应用展开,指出人机交互是AI应用竞争壁垒,介绍典型案例及交互形态,分析Agent不同场景,还提及AI应用创业要素,最后推荐《费曼经典:一个好奇者的探险人生》。
ACL首届博士论文奖公布,华人学者李曼玲获荣誉提名
自然语言处理顶会 ACL 公布首届计算语言学博士论文奖,获奖者是华盛顿大学的 Sewon Min,其论文聚焦大型语言模型数据使用。此外,还有三篇论文获提名,包括李曼玲等学者的成果。
一步步实战 CopilotKit(AG-UI协议):生成式 UI 与集成 Human-in-the-Loop【下】
文章延续上篇Demo,探索CopilotKit在重要场景的应用,如基于Agent的生成式UI、HITL人类参与流程等。展示了相关实例操作步骤与前端效果,指出其为构建智能应用奠定基础,降低AI融合门槛。
刚刚,OpenAI发布CoT监控,增强AI Agent自主能力
今天凌晨,OpenAI发布思维链(CoT)监控技术论文,用于监督AI Agent,增强其自主性。思维链监控可调试故障、合规审计,是构建安全透明AI的蓝图,文中还提及CoT监控必要性及有效方法。
北大腾讯突破奖励模型瓶颈!让AI理解人类偏好,泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything,突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则,降低成本,泛化能力比肩GPT - 4.1,还能用于定制AI行为模式。
AI工具的真相与幻象:从客服看AI应用的理性边界
文章以某科技公司AI产品部门负责人张文的经历为例,讲述AI客服系统失败、AI编程助手成功的情况,指出AI应用存在期望与场景不匹配问题,还探讨了AI落地转变及组织搭建难题与解决办法。
25位IT大佬亲述:AI「吃掉」程序员!码农黄金时代终结
AI Impact Lab创始人探讨AI对技术岗位影响,提到AI公司熟悉技术岗、指标清晰等原因或致其先受冲击,调研显示AI未改变多数岗位但影响初级岗位招聘、模糊岗位边界,还对未来技术就业市场做了预测。
最新硅谷内幕:三大巨头正集体冲刺RSI!
本文曝光硅谷AI巨头谷歌、OpenAI、Anthropic暗中集体冲刺递归自我改进(RSI)技术,多家已出现AI自主写代码、优化模型的早期迹象,业内热议RSI或将加速超级AI到来,带来不可控的生存风险。
拒绝OpenAI和Anthropic邀约,DeepMind安全研究员离职转向独立测评
本文报道,多名头部AI机构研究员因AI安全顾虑离职,DeepMind AGI安全研究员Engels拒绝OpenAI、Anthropic邀约,加入独立评测机构METR,围绕AI递归自我改进失控风险展开讨论。