搜索：上下文存储库

「上下文存储库」共找到 1049 篇相关文章

让本地大模型不再重复推理的缓存技巧

本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。

中科院与字节联合提出「GAR」，为构建自然图像的Dense Caption提供新思路。GAR具备精准描述、关系建模和组合推理能力，通过引入新组件，兼顾细粒度与全局上下文，在多测试集表现优异，且代码等已开源。

Pickford提出PickStyle，这是基于扩散模型的视频到视频风格迁移框架。它结合上下文–风格适配器和CS–CFG机制，能在保持画面连贯时准确迁移风格，还能避免闪烁等问题，不过也继承了基础模型部分缺陷。

一老哥在《我的世界》上手搓出有500万个参数的ChatGPT，经英语对话训练，能在像素世界小电脑上对话，用红石电路和存储单元搭建，未用指令集，网友还在游戏里开发出诸多东西。

淘宝姜宇宁团队上线RecGPT百亿参数推荐大模型，对“猜你喜欢”功能技术升级。大模型赋予传统推荐系统新能力，如让其“白盒化”、理解长上下文等。姜宇宁认为AI要创造商业价值，落到业务场景形成正向循环。

新智元报道，Bilt部署数百万智能体，让AI在“睡眠”中整理记忆，评估互动，决定信息存储位置。AI记忆与人脑差距大，Bilt和Letta实验展现“主动智能”雏形，提高模型表现。行业也在突围AI记忆缺陷问题。

文章发布Qwen3-Next架构及Qwen3-Next-80B-A3B系列模型，通过混合注意力等改进提升训练推理效率。介绍模型结构、性能优势，还说明使用方法，包括在多平台部署及处理超长上下文，展望持续优化架构。

Qwen团队深夜开源两个端侧模型Qwen3 - 4B - Instruct - 2507和Qwen3 - 4B - Thinking - 2507，尺寸对端侧友好，支持256k上下文。后者在AIME25测评得分超Claude 4 Opus，两模型能力较前作均有提升。

香港大学与英伟达联合推出广义空间传播网络（GSPN）。它采用二维线性传播与“稳定性 - 上下文条件”，将计算量降低，保留图像空间连贯性。在多视觉任务刷新性能纪录，如高分辨率生成加速超84倍。

近期基于视频的AI记忆库Memvid大火，宣称革新AI记忆管理，能将文本片段存于MP4实现快速语义搜索。不过网友分析，它底层用FAISS，读写慢、文件大，仓库issues也显示其性能与声称相反。