「AI对齐」共找到 9943 篇相关文章
下一代AI需要「思想微积分」！华人团队重磅揭秘，AI方法论三连发
来自美国两所大学的华人团队发布「AI方法论三部曲」，提出「能力实现率（CRR）」模型、「认知几何学」框架，指出处于AI的「元语言时刻」，未来迈向「思想微积分」时代，从多维度构建理解AI的世界观。
AI教父Geoffrey Hinton：AI将使少数人变得更富，多数人则变得更穷
AI教父Geoffrey Hinton接受FT采访表达四个观点：AI在现行资本主义体系会加剧贫富分化；对人类有短期和长期生存威胁；提出“母婴模型”控制AI；呼吁摒弃盲目乐观，严肃对待AI风险。
奥特曼深夜长文警告：AI巨头必须集体「踩刹车」！
本文报道OpenAI创始人奥特曼发布深夜长文，警告AI狂飙已远超安全对齐与监控能力，存在两大致命生存威胁，呼吁全球AI巨头集体降速，推行前置安全管控机制。
AI教父Hinton最新警告：AI会撒谎、可能操纵人类，这比大规模失业更可怕
AI教父Geoffrey Hinton在播客中警告，AI会撒谎、可能操纵人类，比大规模失业更可怕。他还探讨了AI底层逻辑、是否会思考、风险与收益等，强调国际需合作防AI夺权，人类要研究与AI共存。
AI产品用户留存仅三个月周期？对话王咏刚：“不和AI协作过项目，你就不是合格程序员” | 万有引力
CSDN&《新程序员》总编对话Mootion创始人王咏刚，探讨AI时代程序员、创业者面临的机遇与挑战。王咏刚认为AI上限是人类平均水平，目前AI应用多为尝鲜用户，产品留存短，未来程序员需与AI协作。
AI安全的过去与未来：从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。
视觉AI从「会生成」走向「能创作」，RabbitVis探索AI应用新范式
随着AI生图能力提升，如何让AI进入创作流程成新问题。兔展智能基于UniWorld - Design视觉AI大模型推出RabbitVis，推动视觉AI从图片生成走向可编辑、可交付的创作流程，解决创作流程断点问题。
AI Agent的未来之争：任务规划，该由人主导还是AI自主？——阿里云RDS AI助手的最佳实践
文章以阿里云RDS AI助手实践为例，探讨AI Agent任务规划该由人主导还是AI自主。实测发现大模型自主规划效果不佳，企业更需稳定可靠，人工规划是最佳选择，还提出用‘混合规划’兼顾灵活与可靠。
「All in AI」的 Shopify，分享了他们的全员 AI 落地实践，全是干货
Shopify 三个月前决定「All in AI」，副总裁 Thawar 分享公司引入 AI 的策略、提升效果与三个「反直觉」见解。如全员无差别用 AI、让 AI 展示思考过程、重视新手等，还给出多个工作流案例。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。