「AI对齐训练」共找到 10945 篇相关文章
OpenAI罕见发论文：我们找到了AI幻觉的罪魁祸首
AI“幻觉”是阻碍完全信任AI的关键障碍，目前无根治良方。OpenAI罕见发论文揭示其根源，指出标准训练和评估程序奖励猜测，应加大对自信错误的惩罚，奖励表达不确定性。
从游戏少女到AI女神！她用物理驯服AI，让飓风预测快1000倍
本文讲述了AI领域领军人物Rose Yu的成长历程，她从玩游戏起步，到用物理知识改进交通预测、加速飓风模拟，还设想打造“AI科学家”辅助科研，强调AI是助手而非替代者。
别只用AI写脚本了，现在AI打广告可真是城会玩了！
如今广告玩法新颖，AI能识别短剧画面插入广告，还能生成贴合IP的番外短片。巨量引擎升级的品星云AI营销，打通“洞察 - 创作 - 投放 - 复盘”全流程，重构AI营销玩法，让决策回归简单。
Karpathy点透AI认知撕裂：顶级圈子正集体患上AI狂热症
人们对AI能力认知差距大，部分人用旧版模型评判AI，而前沿模型进步多在专业领域。付费深度使用前沿模型的人有强烈AI狂热症，技术领域进展得益于奖励函数和企业级应用价值。
千人千面的真人级AI名师，劈开教育「不可能三角」
与爱为舞推出的AI导师能个性化教学，服务百万用户。其用「模型+语音+工程」铸造技术巨剑。经训练，AI可驾驭课堂，再经自研语音模型实现交互，通过链路优化等实现规模化落地，践行「全员皆超级个体」理念。
Token成本下降，订阅费却飞涨，AI公司怎么了？
文章指出，虽模型训练成本下降，但 AI 公司运营成本尤其是推理费用猛增。以固定费率订阅和高 token 消耗的商业模式的公司面临困境，如 Windsurf、Claude Code 等，还给出避免亏损的三条出路。
国内AI应用半年报告：App和Web应用月活都在跌，AI搜索需求被验证，百度是DeepSeek流失用户最大接盘手
QuestMobile发布2025年国内AI应用上半年报告，指出国内与海外市场情况不同，国内移动端和PC端AI产品月活下滑，AI搜索需求被验证，百度成DeepSeek流失用户最大接盘手，还分析了各类型AI应用发展态势。
AI里最大的Bug，却也是人类文明最伟大的起点。
OpenAI论文指出AI产生幻觉是因其训练方式奖励瞎蒙行为。以考试为例，AI在信息不足时猜测是最优策略。还从统计学解释根源，指出解决幻觉需改变评估指标，也引发对人类想象力起源的思考。
为什么AI大厂的人，都跑去做生命科学了？
越来越多AI人才投身生命科学，创办数十亿美元估值公司。这是因训练通用模型门槛高，而生命科学技术可迁移、产业愿付费且有成功先例。新一代公司AI位置、融资、技术目标有变化，但仍面临数据和临床验证问题。
AI 陪伴赛道，会诞生下一个「泡泡玛特」吗？ | GAIR Live
AI科技评论组织“AI陪伴”线上圆桌，多位从业者探讨AI陪伴是否伪命题、不同人群接受度、产品核心价值等，还讨论IP对AI硬件的重要性、硬件与软件优势、是否出海等问题。