算法论文8
DFT：改进 SFT 泛化能力的新方法
深度学习自然语言处理
AI 摘要
编辑部论文指出，SFT 泛化能力弱于 RL 且存在过拟合问题。通过数学分析揭示其缺陷根源，提出 DFT 方法。实验显示 DFT 在数学推理任务超越 SFT 和复杂 RL 方法，为模型对齐开辟新路径。
阅读原文 · 深度学习自然语言处理
Make SFT Great Again！从SFT到DFT：一权重之差，泛化之跃
大型语言模型的监督微调（SFT）简单高效，但泛化能力弱于强化学习（RL）。本文直击 SFT 核心缺陷，揭示其泛化瓶颈源于隐含的“病态奖励结构”，并提出仅需单行代码修改的动态微调（DFT），实验表明其效果显著。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
Cloudflare CEO：五年后机器流量千倍于人
本文整理自The Verge《Decoder》播客对Cloudflare CEO的访谈，披露今年5月互联网自动化流量已超过人类流量，预测五年后将达千倍，讨论AI时代互联网新商业模式、内容付费、AI爬虫拦截等热点议题。
AGI Hunt
产品应用9
Opus5.5 全流程搞定视频制作
本文作者实测Claude Opus5.5的视频制作能力，除人工配音外，分镜、动画、音效、配乐全靠代码完成，对比GPT-6 Astra展示各环节提升，验证大模型全流程做视频的可能性。
AI产品自由
新闻资讯8
发布9天，Jev估值破百亿美元
本文报道AI初创公司TypeSafe AI发布的模型Jev上线仅9天，就传出投资者给出超百亿美元估值，剖析资本追捧低价薄利模式的原因，同时梳理业内对其护城河的质疑，探讨大模型赛道资本动向。
DeepTech深科技
新闻资讯8
机器人的GPT时刻就是GPT本身？
本文围绕GPT-6 Astra发布后的行业测试展开，讨论通用大模型能否成为机器人的通用大脑，分析了通用大模型参与机器人控制的原理与优势，点明当前能力边界，提出了分工协作的落地方案。
DeepTech深科技