「步数蒸馏」共找到 599 篇相关文章
Distilabel DeepSeek-R1 模型蒸馏教程
文章介绍结合distilabel与QLoRA技术定制专属大模型的路径。先用distilabel框架利用DeepSeek - R1生成医疗指令数据集，再用QLoRA技术微调Qwen3 - 4B模型，还给出实战路线图和代码示例。
盘点16个把自己蒸馏成Skills的国民级App。
作者盘点16个将自身能力封装成Skill或MCP的国民级App，涉及餐饮、出行、办公等领域，如瑞幸咖啡、飞猪、飞书等，还提到部分AI产品集成第三方服务情况，指出向全面Agent化过渡的趋势。
Karpathy 教它的 nanochat 数单词里有几个“r”
Andrej Karpathy 教超小型语言模型 nanochat d32 数单词里字母 r 的数量，创建 SpellingBee 合成任务微调模型，虽像填鸭式教学但有效，不过小模型上下文处理能力有限。
刚刚，Anthropic 工程师公开了内部数百个 Skill 的打造秘诀
Anthropic工程师Thariq分享Claude Code Skills打造经验，介绍Skill类型、写作技巧、分享与度量方法。指出Skill是文件夹，有九大类，还给出九条写作技巧，强调好Skill在实践中成长。
刚刚，GPT-5.5 Instant全员免费！数亿人的ChatGPT变了
OpenAI深夜推出GPT - 5.5 Instant，全面接管ChatGPT默认模型且全员免费。它亮点诸多，如幻觉率暴降、数学成绩提升、回复字数减少、记忆和个性化功能升级等，三个月后GPT - 5.3将退役。
一个CLAUDE.md霸榜GitHub第一！蒸馏自Karpathy，6万码农抄作业
一个名为CLAUDE.md的Markdown配置文件冲爆GitHub，本周新增44,465颗星，总星数61.6k，连续三天Trending日榜第一。它源自Karpathy对LLM编程陷阱的观察，含四条规矩，能约束AI编程Agent。
15 块钱的纸手机，看哭无数人的 AI 短片
清明节，一支AI制作的短片刷屏，讲述小男孩用15块钱买手机想和去世奶奶通话，老板画纸板手机圆其念想，后又追出去给真手机。短片用纸手机装下思念，展现人心善意。
Karpathy强推，大厂抢着「复古」命令行，Star数全都上千了
飞书、钉钉、企业微信接连推出 CLI，GitHub Star 数上千。CLI 是传统人机交互方式，契合大语言模型运作逻辑，国内外多家公司及项目推出相关工具，还给出为智能体构建 CLI 的设计模式。
“AI原生”觉醒：企业数智化的弯道超车时刻｜甲子光年
当下‘AI原生’成共识，但不少企业有数据难转化、有工具难成闭环。文章提出‘数据×工具×组织’三重进化框架，介绍数据智能化趋势、火山引擎Data Agent等，还为企业拥抱Data+AI给出建议。
无法蒸馏的美国市场，谁在分食 Frontier Labs 百亿美金预算？
本文围绕美国数据市场展开，分析了数据赛道的投资判断、公司增长难题、需求结构、最新趋势等。指出数据虽重要，但外部数据公司份额难线性外推；真实世界数据成新热点，各细分领域格局和投资方向不同。