「Self - Distillation」共找到 42 篇相关文章
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi - 4 - mini微调出Phi - 4 - mini - Flash - Reasoning 3B模型，扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行速度比前代快10倍，有诸多优点。
「微调已死」再添筹码，谷歌扩展AI自我进化范式，成功经验与失败教训双向学习
近期，‘微调已死’言论引关注。谷歌《ReasoningBank: Scaling Agent Self - Evolving with Reasoning Memory》论文提出类似概念，可让智能体从自身成败经验学习，还引入MaTTS，实验显示其有效性和效率优于基准方法。
视频世界模型困在像素网格里：腾讯开源SCoPE，用射线空间重写位置关系
香港大学、香港科大与腾讯ARC Lab联合提出SCoPE，让视频模型处理位置关系的基底从张量网格转向射线空间。它将相机射线坐标注入Video DiT，新增参数不到原模型0.1%，多方面表现获改善。
1.58bit不输FP16！微软推出全新模型蒸馏框架，作者全是华人
微软推出蒸馏框架BitNet Distillation，实现几乎无性能损失的模型量化。它含三阶段，经实验在多下游任务表现近全精度模型，降内存开销、提推理速度，作者全是微软研究院华人。
谁说Scaling Law到头了？新研究：每一步的微小提升会带来指数级增长
很多人质疑扩大计算规模训练模型的做法，因Scaling Law面临收益递减。但新研究发现，模型单步准确率的微小提升能使完成任务长度指数级增长，还探讨了长程执行能力的衡量及影响因素。
Evaluation is All You Need：评估设计的微小差异如何扭曲结果
论文以DeepSeek - R1 - Distill系列模型为例，指出大模型评估中看似客观的基准测试结果对评估细节极度敏感，细微评估条件变化会致分数波动大，削弱模型对比可信度，呼吁建立新评估标准。
推理“刹不住车”？新框架让DeepSeek-R1们告别过度思考，已开源
DeepSeek - R1等推理模型能力增强，但出现过度思考问题，如步骤繁冗、表述拖沓、输出冗长。浙大等团队提出Self - Braking Tuning（SBT）框架，能让模型适时终止推理，在多数据集测试中效果显著。
无需人类插手！AI战队自主进化，人类玩家瑟瑟发抖
论文《Agents of Change: Self - Evolving LLM Agents for Strategic Planning》以桌游《卡坦岛》为“考场”测试AI战略能力。研究团队设计四代AI特工，实验显示能自我进化的AI完爆静态AI，不过也存在计算成本高、依赖基础模型等问题。
一篇讲透Agent自进化飞轮怎么搭：评测→记忆→落地→控制
文章指出多数团队评测、记忆、Self - Improve 拆分做，飞轮难转，原因是环节衔接断链。基于行业研究及实践，提炼评测→记忆→落地→控制四齿飞轮方法论，阐述各环节核心矛盾、建设要点、避坑指南及咬合形成飞轮的方法。
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。