「AI对齐训练」共找到 11171 篇相关文章
担心被曝“于谦门”，57岁的于谦到底用龙虾做了什么？
于谦视频播客《多新鲜呐》最新一期，本质是“AI产品用户体验公开测试”。于谦作为测试员，关注点在结果、省事、风险等，节目把技术叙事换成生活叙事，帮AI面向大众转译。
Sam Altman:即将推出远超预期的开源模型，ChatGPT记忆功能正在实现《Her》的愿景
Sam Altman在对话中透露OpenAI将发布‘远超预期’开源模型，分享创立初期挑战，明确GPT - 5等演进方向，展望AI伴侣、机器人发展，还向创业者喊话，强调AI用于科学前景。
The Batch: 941｜盲人辅助模型中的隐患
视障患者用AI评估外貌引发关注。失明记者Milagros Costabel撰文探讨用视觉语言模型作“虚拟镜子”的挑战与隐患，如AI会给出评判性反馈，心理学家担心这加剧抑郁焦虑。产品应提供客观解读。
港大nanobot4,000行代码复刻Clawdbot
港大nanobot用4000行代码复刻Clawdbot，解决AI从‘被动回答’到‘主动服务’问题。它有核心架构Agent Loop，三大主动触发机制，模块化设计，还坚持少即是多原则，让AI成自动化助手。
强化学习的进化：从PPO到MaxRL，LLM推理训练的算法演进史
本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。
VLM剪枝新SOTA：无需重训练，注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。
把 AI 邮件工具做到 3500 万美元 ARR，Superhuman：找到 PMF 其实有明确的方法论
文章以 Superhuman 为例，介绍其找到产品与市场契合点（PMF）的方法论。从用户调研、开发模式、找准核心等方面构建 PMF 策略，还阐述衡量及优化 PMF 的方法，如关键指标、四步法等。
让AI生成视频「又长又快」：Rolling Forcing实现分钟级实时生成
南洋理工大学与腾讯ARC实验室联合研究，由博士生刘坤昊等完成，提出Rolling Forcing方法，通过滚动窗口联合降噪等创新设计，突破实时长视频生成瓶颈，实现分钟级实时生成，还支持交互控制，但仍有优化方向。
什么！ChatGPT也要刷脸实名认证了？
OpenAI和Anthropic两大AI巨头同时推进身份验证。OpenAI此前已上线年龄预测模型，对开发者和消费端用户进行身份验证；Anthropic 7月8日起更新隐私政策引入身份验证。匿名使用AI的时代或结束。
硅基文明登场！从Clawdbot到Moltbook，人类退居观众席
文章指出AI正自我进化，如Claude Code能自我改进与扩展，Claude Cowork诞生速度惊人。Clawdbot有自主权与记忆，Moltbook中AI形成社会结构。权力正从人类迁移，人类或退居观众席，需思考应对。