「向量库」共找到 338 篇相关文章
解码加速15倍！EdgeRazor助推大模型在PC/移动端“狂飙”
大语言模型参数膨胀，端侧部署难，量化成主流轻量化方案。开源工具库EdgeRazor由南京大学和微软联合推出，采用MPQAD打破极低比特大语言模型“能力塌陷”，在性能、效率、易用性等方面表现出色，打通AI全生态链路。
一句话搞定后端？揭秘被 52.1k 开发者选择的 PocketBase：真能让你 0 运维快速上线产品吗？
PocketBase是“把后端打包成一个文件”的开源项目，既可以作为独立的轻量后端服务直接运行，也能作为Go库嵌入到应用中。它能解决团队做MVP等遇到的痛点，有诸多核心功能和技术优势。
EMNLP25 | "大模型在环"技术新突破：Dial-In LLM 推动中文客服意图聚类新范式
本文提出LLM-in-the-loop意图聚类框架，以传统聚类为骨架，微调后的中文LLM做语义裁判和命名批注。在10万+真实客服通话数据集上超越基线，解决现有方法依赖词向量、缺乏可解释性、调用大模型成本高的问题。
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
Meta 将移动端消息基础设施从 C 迁移到 Rust
Meta正在用Rust逐步重写移动端消息基础设施，替换老旧C代码。内存安全、开发者幸福感和长期可维护性是迁移动机。编译核心库用于多应用，虽Rust学习曲线陡，但团队用多种方式克服，还改进工具链。
详解Github 35K+项目：打通200+数据源，构建企业级AI的数据统一入口，支持MCP【下篇】
本文继续介绍MindsDB这款开源AI数据引擎，阐述知识库与混合检索应用，如创建向量索引、语义检索、多源混合检索等；还提及RAG与数据智能体，包括构建RAG管道和配置Data Agent；最后给出应用建议，称其适合复杂企业环境。
Cursor为Blackwell从零构建MXFP8内核，MoE层提速3.5倍，端到端训练提速1.5倍
Cursor团队从NVIDIA的Hopper H100s升级到Blackwell B200s后遇性能瓶颈，他们回归基础，从零重写MoE训练层，抛弃对现有CUDA库依赖，释放了Blackwell架构潜能，实现MoE层和端到端训练提速。
谷歌开源结构化信息提取神器！4K+ Star，精准定位+交互式可视化！
在医疗、法律等领域，手动从非结构化文本提取信息费力，传统NLP工具需复杂训练。谷歌开源的LangExtract是高精度信息抽取Python库，能自动提取结构化信息，有精确源定位等功能，还给出使用示例和典型场景。
跨芯片统一优化，DLCompiler与DLBlas驱动算子极致表现
9月10日，上海AI实验室DeepLink团队开源DLCompiler和DLBlas。前者是扩展Triton的深度学习编译器，后者是面向大模型的高性能算子库。它们有跨架构DSL扩展等亮点，在多芯片上实现性能优化，还解决了DSA芯片优化难题。
和Anthropic CEO一起发过Nature，他用Claude Code复活三年烂尾代码
华盛顿大学首席开发者Brendan MacLean用Claude Code复活三年烂尾代码。他像带实习生一样带Claude，构建上下文让其理解代码库。同一周OpenAI开源Symphony，实现任务自动派Agent。二者路线不同但目的相同，都在探索让AI融入工程流程。