「向量压缩」共找到 313 篇相关文章

算法论文8

ICML 2026 | 只用少量Thinking Tokens,大模型依然能深度思考

近年来,CoT 推理成为提升大模型复杂问题求解能力的重要路径,但带来效率问题。浙江大学等团队提出 Heima 框架,将冗长 CoT 压缩为少量 thinking tokens,在减少 token 数的同时保留推理能力,已被 ICML 2026 接收。

机器之心
新闻资讯8

一句话生成任务专属LoRA!Transformer作者创业公司颠覆LLM微调

Transformer作者之一创立的SakanaAI推出Text-to-LoRA(T2L),简化模型适配流程,省却繁琐微调。T2L参数压缩率达80%仅降1.2%准确率,零样本场景平均准确率78.3%超现有SOTA方法,开启“一句话定制模型”时代。

量子位
产品应用8

用完字节的火山 VikingDB,我都不舍得告诉别人

作者所在团队与字节跳动的VikingDB RAG产品合作研发墨问“知识库”功能。介绍了VikingDB的向量库、知识库和长期记忆库能力,对比传统数据库凸显其优势,还阐述了相关技术推动信息连接变革。

MacTalk
7

逼AI当山顶洞人!Claude防话痨插件爆火,网友:受够了AI废话

一个叫「caveman」的Claude Code插件在Hacker News爆火,冲破2w星。它核心是条prompt,删掉冠词等废话,号称省75%输出token。但它不压缩模型后台推理token,真实成本节省存疑。

新智元
产品应用8

基于 Elasticsearch 创建企业 AI 搜索应用实践

Elastic 中国社区首席布道师刘晓国,分享基于 Elasticsearch 创建企业 AI 搜索应用实践,介绍其向量搜索技术及 RAG 应用开发,还提及智能时代搜索需求变化、混合搜索优势及 Elasticsearch 优化改进等内容。

InfoQ
新闻资讯9

字节Seed实习生曝DeepSeek-V4技术缺陷:长文本检索陷入“周期性盲区”

本文报道字节跳动Seed团队联合多校研究者,发现DeepSeek-V4因分块KV缓存压缩设计存在长文本检索周期性盲区,深入拆解缺陷根源,曝光传统大模型长文本评测的盲区。

InfoQ
产品应用7

今天,分享Clawdbot记忆系统最佳工程实践

文章分享了 Clawdbot 记忆系统的最佳工程实践。它能自主处理现实任务,其持久记忆系统独特,将一切保留在本地。文中介绍了上下文构建、记忆存储、搜索等方面,还提及多代理记忆、压缩、刷新等内容。

PaperAgent
开源动态8

BigBang-Proton: 自回归基座模型统一语言、科学和物质世界

超对称公司发布新版基座模型 BigBang - Proton,实现多学科问题与 LLM 统一预训练和推理,挑战主流 AGI 技术路线。它有三项创新,在多专业学科任务表现出色,还提出宇宙尺度压缩构想。

InfoQ
新闻资讯7

内存股集体大跌,原因竟是谷歌这篇一年前的论文

美国内存股集体暴跌,诱因是谷歌新博客介绍一年前公布的技术 TurboQuant。它是压缩算法,可大幅减少 LLM KV 缓存内存占用、提升速度且精度零损失,有望打乱市场对内存芯片增长预期。

机器之心
开源动态8

DeepSeek重磅开源3B OCR模型,一天处理20万页文档!一天内斩获6K标星!

DeepSeek开源3B OCR模型DeepSeek - OCR,参数量仅30亿,单张A100 - 40G一天能处理20万页文档,不到24小时获6K标星。它是视觉压缩引擎,解决大模型处理长文本算力爆炸问题,有诸多技术亮点。

开源星探