算法论文8

Thinking Machine：小模型训练新方法性价比高

量子位2025-10-28

AI 摘要

Thinking Machine创始人、OpenAI前CTO Mira Murati转发新研究，提出On - Policy Distillation方法，结合RL与微调优势。实验显示训练小模型效率高，还能解决AI“灾难性遗忘”，核心作者是Kevin Lu。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

REA三天12万星闭源神话动摇

GitHub开源项目REA上线三天狂揽12万星，它让AI Agent串联传统逆向工具，可无需源码分析各类软件并生成相似功能代码，动摇了闭源软件“源码不公开”的价值基础，引发行业对软件商业模式的广泛讨论。

本文报道字节Seed团队发现DeepSeek V4基础模型因分块KV压缩存在周期性相位敏感性弱点，作者复刻实验实测现役DeepSeek V4.1-Flash，讨论了长上下文评测的盲区，新版本弱点已明显减轻。

本文报道了数学爱好者nor借助GPT-6 Astra，完成了搁置57年的“圆内摆圆”问题中N≤20剩余5种情况的严格最优性证明，展现了AI在数学研究领域的新应用。

本文报道字节跳动Seed团队联合多校研究者，发现DeepSeek-V4因分块KV缓存压缩设计存在长文本检索周期性盲区，深入拆解缺陷根源，曝光传统大模型长文本评测的盲区。