「向量蒸馏」共找到 210 篇相关文章
从BERT到T5再到Qwen3：关于Embedding的八点总结
哈工大30+页综述聚焦通用文本嵌入（GPTE），系统介绍其架构、数据、模型，探讨预训练语言模型（PLM）给GPTE带来的基础能力与高级扩展，还涉及多模态、多语言、代码嵌入等应用。
好奇心之旅：Cursor代码库索引机制的学习笔记
作者作为高德信息工程团队AI先锋队一员，日常用Cursor开发，因好奇其代码库索引机制展开探索。介绍了Cursor索引工作流程、隐私安全等，还研究Merkle树、turbopuffer向量库及开源方案Continue。
少说‘Wait’，多做题：NoWait重塑大模型推理路径
现代大模型在复杂推理时爱用自我反思词，触发冗余验证循环，拖慢速度、增加算力消耗。NoWait方法零训练成本，通过抓关键词、扩展变体、实时屏蔽，让模型跳过废话，在多任务中表现出色，且颠覆对推理的认知。
Scaling Law 仍然成立，企业搜广推怎么做才能少踩“坑”？
InfoQ《极客有约》X AICon 直播邀请京东颜林等探讨生成式推荐落地洞察。指出搜广推场景 scaling law 成立且在上升，还分享大模型对搜广推的改变、架构成长方式，及平衡成本等方面的经验。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
LLM驱动的威胁情报提取框架，从非结构化到STIX的自动化:IntelEX
为应对网络攻击，需将非结构化网络威胁情报转化为结构化情报。IntelEX是自动化攻击级威胁情报提取工具，通过LLM上下文学习等增强，能识别攻击序列并提取结构化情报为STIX格式，还可转化成Sigma，在测试中表现优异。
大模型到底是怎么「思考」的？第一篇系统性综述SAE的文章来了
在大语言模型时代，人们需要“能解释”的LLM。SAE技术崛起，作者团队发布首篇SAE综述，梳理其技术、演化和挑战。介绍了SAE概念、优势，涵盖其技术框架、可解释性分析等多方面内容。
不用千亿参数也能合成高质量数据！这个开源框架让小模型“组团逆袭”，7B性能直追72B
上海人工智能实验室与中国人民大学提出GRA框架，以“多人协作”理念让小模型分工生成高质量训练数据。实验显示其生成数据质量高，项目已开源。它打破对大模型蒸馏依赖，展现“集体智能”潜力。
ICML 2026 | 北大提出的APEIRIA，打破了3D MLLM黑盒推理困境
北大团队提出面向3D空间推理的新框架APEIRIA，将神经符号程序推理模式蒸馏进3D MLLM。采用三阶段课程学习，在多基准测试表现强劲，保留模块化优势，为具身智能系统提供启发。
告别死记硬背！SkillRL自动提炼Skills持续进化
大型语言模型智能体常孤立运行，难从经验学习。SKILLRL受人类技能启发，提出有效经验迁移需抽象。它通过经验驱动的技能蒸馏、分层技能库和递归技能进化机制，在多实验中表现出色。