「向量压缩」共找到 293 篇相关文章
文本已死，视觉当立！Karpathy狂赞DeepSeek新模型，终结分词器时代
DeepSeek新成果DeepSeek - OCR以像素处理文本，压缩率小于1/10，基准测试领跑，开源一夜获4.4k星。Karpathy力挺，认为应赶走分词器，展望视觉成通用输入前景，马斯克有更科幻猜想。
硬件成本直降60%！原生分布式VS传统分库分表数据库
服务器硬件价格上涨，传统分库分表架构资源利用效率低。OceanBase 作为原生分布式数据库，通过多种技术优化资源，降低硬件依赖，多个案例显示其能大幅降低成本、提升性能，获 Forrester 认证。
扎克伯格的豪赌初见成效？Meta新方法让LLM长上下文处理提速30倍
Meta Superintelligence Labs提出REFRAG高效解码框架，解决LLM长上下文输入效率瓶颈。它通过四步流程优化解码，让首个token生成时间加速达30.8倍，扩展上下文，且精度不降反升，不过价值待实际检验。
DeepSeek推理最高提速6倍！开源研究：加装「思维进度条」，计算量减少30%
特拉维夫大学团队开发新方法，给LLM推理任务装进度条，控制推理深度和速度。提出“思维进度向量”TPV预测推理位置，干预TPV可“超频”“降频”，模型已在GitHub开源。
GPT-6 真要来了！OpenAI全新推理架构“循环深度”首次曝光：可榨出14倍参数潜能
OpenAI将推旗舰模型GPT - 6（内部代号Astra），采用“循环深度”新技术，能榨出14倍参数潜能，降低成本，但会使AI推理过程不可读，加重安全担忧。OpenAI已因该模型“能力过强”踩刹车。
The Batch: 951 |让助手始终保持“帮助状态”
通常大语言模型被训练成有帮助、无害、诚实的助手，但长时或激烈对话中会有不理想特征。研究人员提出稳定 LLM 助手人格的方法，定义 assistant axis 纠正偏离，测试显示该方法有效且不降低模型表现。
Google Gemini Embedding2：一个模型处理所有媒体类型
Google发布Gemini Embedding 2，首个原生多模态嵌入模型。能处理文本、图像等多种媒体类型，支持交错输入，覆盖超100种语言。与多模型串联方案比，延迟降70%、召回率升20%。已可在Gemini API等使用。
挑战Claude code和Cursor：阿里Qoder对标全球，AI编程迎来“上下文”革命
AI编程工具爆发式增长，‘上下文’成实用化难题。阿里推出Qoder平台，结合大模型与Agent，可深度检索代码、理解上下文。本文采访Qoder团队工程师，解析其定位、成本、技术路线等关键问题。
Meta超级智能实验室首篇论文：重新定义RAG
Meta超级智能实验室首篇论文提出REFRAG框架，重新定义RAG。它通过“压缩、感知、扩展”流程优化LLM处理外部知识方式，最高将首字生成延迟加速30倍，且性能无损。
1M 上下文时代太费 Token，告诉你我的 Coding Agent 省钱方法
当下GPT-5.5等模型原生支持1M上下文，虽能支撑长任务，但易被噪音干扰且费Token。作者以Claude Code为例，介绍做好会话管理的多种省钱方法，如根据任务选择会话策略、利用rewind功能等。