「人机对齐」共找到 454 篇相关文章

产品应用8

当 AI 学会“为我代言”:Second Me 如何重新定义数字时代的身份主权

2025年初个人AI分身走向大规模应用,Second Me是“为我代言”理念的先行者。它重新定义人机关系,实现三维度价值重构,有独特技术栈。其产品体验好,开源战略有商业价值,还探讨了AI时代人的价值。

特工宇宙
新闻资讯7

奥特曼马斯克豪言:我们已进入奇点!AGI加速窗口已至

新智元报道,奥特曼和马斯克都认为奇点已至,当下处于AGI加速窗口。OpenAI曾靠资源猛追让Codex逆袭。但AI发展也引发担忧,如人类能否保持理智、安全对齐进展不明等。

新智元
算法论文8

腾讯混元数字人团队发布Moral RolePlay基准,揭秘大模型的「道德困境」

腾讯混元数字人团队和中山大学推出「Moral RolePlay」测评基准,评估大模型扮演多元道德角色能力,揭示顶尖AI模型演不好反派,暴露模型理解社会心理复杂性的局限,还给出未来对齐技术方向。

机器之心
新闻资讯8

刚刚,Opus 5来了:性能不输 Fable 5、价格砍半

Anthropic 发布新一代模型 Claude Opus 5,其智能接近 Claude Fable 5 但价格减半。它在编程、知识工作等评测中表现出色,科研能力进步大,自主性与严谨性更强,安全对齐度高,防护兼顾安全与可用。

机器之心
开源动态8

音画同步视频生成重磅开源!Character AI和耶鲁大学推出Ovi,让音、画在一个大脑里思考

Character AI和耶鲁大学团队推出开源模型OVI,它采用双骨干交叉模态融合架构,让音视频同步生成。其架构对称,用旋转位置嵌入技术对齐时间,训练策略分步进行,生成效果佳,为开源音视频生成提供新路径。

AIGC开放社区
产品应用8

Agent 2.0时代来了,首批「工业级智能体」正在核心位置上岗

近日科技圈感叹AI工具提升效率,谷歌工程师分享使用智能体经历。1月7日阿里云百炼全面升级,开启智能体‘工业化流水线’时代,解决技术落地问题,发布企业版,推动人机协同时代到来。

机器之心
推荐文章8

卡帕西推荐的AI Coding指南:3招教你效率翻倍

大神卡帕西和OpenAI总裁转发推荐的AI Coding指南,由Peter Steinberger撰写。指南给出三大关键策略,即按任务类型选对模型、重构工作流、做好人机分工,还分享实用小技巧。

量子位
产品应用8

这个 AI 产品,给了我久违的惊喜。

作者曾探讨为何此前无出圈客服 Agent 产品,认为做 Demo 易,生产环境可用门槛高。本周阿里瓴羊团队发布企业级客服 Agent,它能处理退款、补发等流程,采用人机分工模式,务实靠谱,有望改善客服行业现状。

MacTalk
开源动态8

开源模型首超Opus4.6!智谱GLM-5.1登场,14小时后CUDA专家被冲了

智谱开源模型GLM - 5.1带来重大突破,14小时完成CUDA Kernel优化,加速比大幅提升。它解锁与顶尖闭源模型Claude Opus 4.6全面对齐,在多测试中表现优异,展现长程任务能力,改写行业叙事逻辑。

量子位
算法论文8

Stream-Omni:同时支持各种模态组合交互的文本-视觉-语音多模态大模型

中国科学院计算技术研究所团队提出文本-视觉-语音多模态大模型Stream-Omni,能支持多种模态组合交互。它对各模态关系针对性建模,实现高效灵活的模态对齐,仅用少量语音数据就有多种交互能力。

机器之心