「反馈对齐」共找到 466 篇相关文章
模力工场 022 周 AI 应用榜：记忆型 AI Infra PowerMem 登顶榜首，本周 AI 应用全面升级“长期主义”
模力工场 022 周 AI 应用榜揭晓，PowerMem 登顶。榜单涵盖底层基础设施与各类应用，体现 AI 满足多样需求趋势。采访 PowerMem 开发者，介绍其功能、优势、使用反馈及未来目标，还推荐了 GetDraft 起稿等应用。
米哈游蔡浩宇，发了个“游戏版ChatGPT”
米哈游蔡浩宇上新AI聊天软件AnuNeko，用户反馈其人性化高但逻辑较弱。AnuNeko出自蔡浩宇新公司Anuttacon，该公司此前还推出实验性AI游戏。如今AI+游戏大势所趋，米哈游新游也加入更多AI元素。
AI 产品范式探讨：非线性思维、多 Agent 协作才是复杂任务的更优解
本文探讨AI产品范式，指出当前大模型产品设计多将其视为‘万能单兵专家’，但复杂任务下效果不佳。提出群体智能、非线性思维等观点，阐述人机协作方向，介绍新范式及AI产品商业化核心是信任。
就在刚刚，ChatGPT发布了一个新功能Pulse
北京时间凌晨，山姆·奥特曼宣布 OpenAI 为 Pro 用户上线 ChatGPT Pulse 预览版，后续会扩展到 Plus 用户及所有人。Pulse 核心是主动推送个性化更新，能结合多信息生成内容，但需用户开放大量个人数据，隐私问题值得关注。
双“雷”暴击！Trae 被曝资源黑洞、Claude背刺超级付费党，开发者们被“刀”惨了
AI编程应用大热，但运行卡顿、资源消耗惊人等问题随之而来。Trae被曝过度消耗资源，Anthropic宣布Claude Code对付费用户增加调用限制，反映出AI产品资源问题影响厂商和用户。
SnapMoGen：44 小时动作数据 + 12 万文本注释，文本驱动动作生成数据集
近年来文本驱动动作生成有进展，但受限于数据集质量。Snap团队提出SnapMoGen数据集和MoMask++模型。前者有2万条动作片段和12.2万条文本描述，后者建模更有效，还结合LLM提升适用性，但二者都有局限。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
延伸阅读｜约书亚·本吉奥：为什么必须重视AI安全——系统性回应各种反对论点
本文是图灵奖得主约书亚·本吉奥谈论AI安全的文章，系统性回应了各类“无需担忧AI安全”的反对论点，从技术控制与社会治理层面探讨AGI、超级人工智能的风险应对，强调不能因不确定性推迟行动。
Facet-0：NTU王子为团队让机器人在精密装配中「看得懂、插得准、出错能恢复」
新加坡南洋理工大学PINE Lab团队研发Facet - 0机器人基础模型，用于精密装配。它在五项计算机装配任务中平均成功率达82%，能让机器人理解接触状态、判断对错并改进。通过多阶段训练，降低人工干预率，提高失败恢复率。