「自蒸馏微调」共找到 1410 篇相关文章
给Claude Code加个音效提醒
文章指出Claude Code缺少提醒功能，作者用Claude Code自带的hooks功能和macOS系统的afplay工具，实现音效提醒。需要确认时播放塞尔达传说BGM，完成时播放超级马里奥BGM，还介绍配置方法。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。
拒绝Reward Hacking！港科联合快手可灵提出高效强化学习后训练扩散模型新范式
使用强化学习微调扩散模型时，常面临Reward Hacking和KL正则化阻碍探索收敛的问题。港科等团队提出GARDO框架，通过门控自适应正则化和多样性感知优化，解决痛点且全面开源。
TACO: 让 CLI Agent 在自主迭代中学会丢掉无用上下文
由多校及研究团队联合提出 TACO，这是无需训练、即插即用的终端智能体自进化观测压缩框架。它能让智能体学习压缩规则，过滤低价值输出，保留关键线索，实验显示其提升了任务成功率和 token 效率。
AI真能搞钱了！这家公司把大模型玩成闭环赚钱机器
当全行业还在卷大模型参数、烧算力时，零犀科技走出不同路。其自研因果大模型，用AI智能体帮企业提升销售。2025年已实现规模盈利，成为最早跑通商业闭环的大模型应用公司。
号称1200万token上下文的模型来了，数据亮眼但疑点重重
当地时间5月5日，Subquadratic公司推出模型SubQ，称是LLM智能重大突破，有1200万token上下文。数据亮眼，如在1M token场景比FlashAttention快52倍等，但也引发质疑，有人推测是对开源模型微调，官方未公布详细模型卡。
Skill 火了，但它可能只是个过渡品
大家认为给 Agent 装技能包是未来，但云玦科技的“零 Skill Agent”能自己造工具并碾压基于 Gemini 3 Pro 的 Agent。文章回顾 Agent 用工具三阶段，指出 Skill 是过渡品，不过现阶段仍实用，未来会进化。
RSI离我们有多远？这家中国团队给出了第一梯队的工程解
目前行业探讨大模型的RSI时，常陷入思维定势。EvoMap团队没有盲目跟风，而是提出极具现实意义的工程新路径，构建自进化智能体，让经验在网络流转，还以硬核数据证明其体系有效性。
刚刚，苹果官宣iphone搭载最强AI，每年给Google 10亿，不愿在信ChatGPT。
早上苹果与Google官宣的新闻刷屏，下一代苹果基础模型将基于Gemini构建。苹果因自研来不及且人才流失，选择花10亿买Google模型。还分析了未选OpenAI的原因，以及隐私方面的问题。
阿里Qwen3技术报告核心要点解读！
阿里Qwen3技术报告发布，披露模型架构、预训练及后训练等技术细节。其有密集与混合专家两种模型架构，预训练数据量和语种增多，后训练采用强到弱蒸馏提升性能，各模型表现优异。