「自蒸馏策略优化」共找到 2066 篇相关文章
RAG技巧与底层代码剖析
文章深入剖析 RAG 技巧与底层代码，从用 Python 基础库构建 RAG 系统，到多种优化方法如上下文增强检索、添加上下文块标题等，还涉及查询改写、重排序等技术，最后介绍了上下文压缩、反馈机制等提升系统效率和质量的方法。
“光靠人盯不住了”！拆解上万张晶圆，这家公司靠AI将芯片良率提升数个百分点
喆塔科技创始人赵文政称国内跑通AI的半导体工厂少，工业AI尚处发展阶段。喆塔将DeepSeek接入自研大模型，提升训练效率。还分享了团队实例，强调工业AI决胜点在行业知识。此外，介绍了喆塔切入AI领域的过程、应用成果、面临挑战及未来策略等。
人民想念DeepSeek
文章探讨AI时代Token相关问题。指出其消耗大、价格贵，存储价格上涨使Token降价缺杠杆，虽模型能力提升、MFU优化可降本，但传导到C端取决于商业考量。还回顾大模型价格战，介绍本地部署及芯片创新方案。
超越对数似然：模型能力连续体下的监督微调新范式
论文挑战监督微调（SFT）用负对数似然（NLL）作训练目标的默认设定，提出基于概率的目标家族，引入“模型能力连续体”概念，分析不同目标在不同模型能力下的表现，为模型后训练提供新优化方向。
ICLR 2026 | 越推越快! 首个面向「Test-Time Scaling」的投机解码基准
文章指出推理阶段扩展（TTS）能提升推理大模型解决复杂问题的能力，但会产生大量冗余计算。为此提出首个面向TTS的投机解码加速综合基准，评测显示N - gram方法在特定场景加速潜力大，混合策略性能更优。
构建会“说话”和“行动”的 AI：生成式数字人技术与 EchoMimic 实践
在 QCon 全球软件开发大会上，支付宝李宇明围绕 EchoMimic 介绍生成式数字人进展、技术、应用及研究思路。对比传统数字人，生成式数字人成本低、易控制，但也有技术新、推理成本高的问题。EchoMimic 两版本已开源，经优化推理速度可提升。
李飞飞发布全新世界模型
李飞飞团队的World Labs发布两款新模型Marble 1.1和Marble 1.1 - Plus，能将平面照片转化为3D世界、提升画面清晰度。二者各有侧重，前者重画质优化，后者重空间生成，官方建议新用户从1.1开始用。
【闭门会干货】字节 AI 最新动态：豆包升级+提示词神器+ SOTA 向量模型 + AI知识库 ！
作者参加字节火山方舟开发者闭门会，分享诸多AI成果。豆包模型0715版较0615版能力提升显著；PromptPilot工具让提示词优化工程化；还有Responses API、AI知识库等实用工具，且有免费计划。此外，Seed1.6 - Embedding登顶多榜单SOTA，VikingDB升级，平台有协作奖励计划。
生产级Prompt自动化推理评估A/B实验结果的工程实践
本文围绕生产级Prompt自动化推理评估A/B实验结果展开，介绍系统背景与痛点，展示主Prompt和决策树，用deepseek - r1等模型推理。通过分析Bad Cases优化Prompt，总结设计原则和迭代方法，还给出通用启示与展望。
AMD跑GLM 5.2，成本只要英伟达一半
推理优化公司Wafer公布数据，用AMD的MI355X芯片跑GLM 5.2，单节点吞吐达2626 tok/s，单流吞吐213 tok/s，成本不到英伟达B200的一半。该公司详述部署过程，还提及AMD软件生态的变化及英伟达面临的挑战。