「知识蒸馏」共找到 590 篇相关文章
真实评估！北理发布全球首个「全场景教育」基准，支持4000+情境
北京理工大学高扬老师团队推出EduBench，是全球首个「全场景教育」基准，涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源，评估发现大模型在特殊教育场景有不足，还提出多源知识蒸馏等方法。
EMNLP2025 | 解耦视觉与推理，港大探索视觉语言模型"眼智分离"新范式
当前大视觉语言模型处理复杂推理任务时，常过分依赖语言知识，忽视图像关键信息。港大等团队提出ProReason框架，其蒸馏的ProReason - VL和ProReason - Q3模型性能提升显著，为LVLMs发展提供方向。
突破万次连续编辑极限！中科院提出首个理论保稳的知识保留方法
中科院信工所研究人员提出LyapLock，将连续编辑建模为受约束随机规划问题，整合排队论和李雅普诺夫优化。实验显示，它能突破万次连续编辑极限，编辑效果比主流方法提升11.89%，还可赋能现有模型。
知识类型视角切入，全面评测图像编辑模型推理能力：所有模型在「程序性推理」方面表现不佳
东南大学等团队提出KRIS - Bench，从知识类型视角对图像编辑模型推理能力评测。它分三大知识范畴、细化多种任务，设四维度评估指标，测10款模型，发现模型程序性推理等能力不足。
通用模型无法完全理解用户，AI产品的下一站是上下文的战场｜对话AI知识助手remio
量子位智库对话remio创始人汪源，探讨其开发初衷、核心价值等。remio主打无感自动化，成用户第二大脑，有信息捕获、管理等功能，数据本地存保隐私。还聊了目标用户、指标、功能及应对竞争等。
深度解读｜LLM Wiki 的工程实践，从 AI Coding、Obsidian 到 RAG 协同。
文章介绍 LLM Wiki 工程实践。包括为 AI Coding 创建知识地图，指导 Agent 加载上下文；在 Obsidian 构建知识体系，有插件和自定义 Agent 两种方法；还分析其与 RAG 关系，指出可融合互补，不要过度神话 LLM Wiki。
当国产模型追上闭源旗舰，企业 AI 编程的真正障碍才浮出水面
过去企业AI Coding讨论多集中在模型能力等方面，DeepSeek V4出现缓解了模型问题，但更深层的代码库业务隐知识等问题浮现。合规限制使企业工具建设受阻，V4打破了模型供应瓶颈，可组织知识管理仍成难题。
一个强大的知识图谱生成工具
这是基于Streamlit的应用程序，用LangChain和OpenAI的GPT模型从文本提取图谱数据并生成交互式图谱。有两种输入方式，具备可视化等特性，还给出安装、运行等指南。
别死磕百万上下文了！Neo4j CEO 详解知识图谱：如何把大公司的“隐性知识”塞进 AI 的脑子？
Neo4j CEO Emil Eifrem 在播客中表示，AI 缺的不是更多上下文，而是上下文关系。图数据库能提供带结构的上下文，解决向量搜索难以解释的问题。GraphRAG 结合向量搜索与图遍历，可提高准确率。此外，还介绍了图数据库在多领域的应用及相关工具。
领域驱动的 RAG：基于分布式所有权构建精准的企业知识系统
银行技术供应商为解决文档和专业知识获取难题，探索用 RAG 技术，严格将 AI 作咨询工具。重新分配 RAG 实施所有权，采用元数据方法，探索伸缩性解决办法，构建完整应用并评估性能，结果令人振奋。