算法论文8
研究重审SFT泛化能力及条件因素
AI科技评论
AI 摘要
上海人工智能实验室等团队研究指出,SFT泛化受优化、数据、模型能力影响,长思维链SFT早期性能‘先降后升’,重复曝光更有效,还会带来安全性能退化,未来应联合优化各因素。
阅读原文 · AI科技评论
重新审视SFT的泛化能力:优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆,RL实现泛化’观点,指出SFT泛化是条件性现象,受优化动态、训练数据、基模型能力影响,还揭示长思维链SFT会带来安全性能退化。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章9
杨思成:模型不行 灵巧手就得卷性能
源升智能创始人杨思成深耕灵巧手领域十余年,在本次访谈中分享了对灵巧手行业技术路线、产品定位的判断,提出当前阶段需打造全维度高性能的高自由度灵巧手。
AI科技评论
新闻资讯8
OpenAI发布GPT - 6 Astra,AGI时代来临
OpenAI正式发布GPT - 6 Astra,总裁称已到AGI时代。该模型定位为“世界上最智能、最对齐的模型”,在多领域表现出色,能力强、速度快、成本低,还具备“关键级”网络安全能力,将逐步开放给用户。
机器之心
新闻资讯8
OpenAI发布GPT-6 Astra,宣称进入AGI时代
当地时间9月3日,OpenAI发布GPT-6 Astra,称其为“最智能、最对齐”的模型。它在多测试表现逆天,能力提升显著,还加入新特性。不过价格更高,也带来安全问题。
DeepTech深科技
新闻资讯7
OpenAI Astra引入循环深度,安全专家担忧
OpenAI 最强新模型 Astra 或即将发布,它是首个达「关键级」网络安全能力门槛的模型,在测试中表现优异。《The Information》爆料其用「循环深度」技术,能力提升但引发安全专家担忧,该技术可使模型内部计算增多,思维链监控或失效。
机器之心