「文本判别知识蒸馏」共找到 940 篇相关文章
GPT-5.4发布，最适合OpenClaw的天选模型登场了。
GPT-5.4发布，作者认为它是OpenClaw天选模型。此前Claude贵且受限，GPT-5.3-Codex世界知识差。GPT-5.4代码能力强、世界知识优，还具多特性，如大上下文窗口，目前ChatGPT已上线。
DeepSeek开源的不仅仅是个新OCR模型。。。
DeepSeek开源3B参数的新OCR模型，重新思考AI处理长文本方式，用视觉token压缩文本信息。核心组件有DeepEncoder和DeepSeek3B - MoE解码器，实验效果好，成本降低，还解决了一些算法和工程问题。
幻觉终结者，PoG给大模型“打补丁”
传统检索方式易给大语言模型带入噪声，知识图谱虽能提供可靠知识，但处理多跳和多实体问题有局限。Paths-over-Graph（PoG）方法通过多跳路径探索、路径剪枝等提高LLMs在复杂任务中的表现，减少幻觉。
把 RAG 做成主流的公司，现在开始“做空”RAG 了
Pinecone 曾将 RAG 定义成大语言模型 grounding 标准范式，如今却宣布 RAG 时代结束。它推出面向 Agent 的知识引擎 Nexus，提出“知识编译”概念，称能提高任务完成率、降低 token 开销，整个 AI 世界都在将“推理”往上游移动。
谷歌Gemini一次提示能耗≈看9秒电视，专家：别太信，有误导性
谷歌报告称处理一个中位数的Gemini文本提示能耗低，2024 - 2025年单个文本提示能耗降33倍、碳足迹减44倍，归功于全栈式优化。但专家质疑其方法论，指出未算间接用水、碳排放核算不全等问题。
在Think中边搜索边调整的搜索增强Reasoning方法
LLM虽知识丰富，但无法掌握训练数据外的信息，传统检索增强生成方法有缺陷。AutoRefine提出“先筛选，再回答”理念，用强化学习训练，实验显示在多方面碾压传统方法，未来或改变知识密集型任务解决方式。
美团开源LongCat-Image，6B参数挑战80B效果，中英双语理解、图像逼真度及复杂指令编辑新突破
美团开源6B参数图像模型LongCat-Image，在双语文本理解、图像逼真度及复杂指令编辑任务中表现出色。它以轻量化设计超越大模型，还解决中文文本渲染难题，有精确图像编辑能力，且提供全链路开源方案。
最新12种GraphRAG技术全面评测
6月两篇论文对12种GraphRAG技术评测。GraphRAG通过构建图结构组织知识，在复杂推理等任务中优于传统RAG。不同GraphRAG技术在图构建、知识检索上表现各异，如RAPTOR图构建慢但令牌消耗少。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
为什么我不再折腾RAG了
作者曾靠RAG内容获流量，但如今不再关注。一是技术有局限，传统RAG切断知识联系，GraphRAG虽好却未普及；二是RAG能用易、好用难，搭建调试麻烦。作者改用大型工具，还做知识提炼。