「跨会话调度」共找到 556 篇相关文章

产品应用8

全球首款!Claude引发的数据恐慌,被这家中国黑马补上了

威努特作为网络安全公司跨界推出AI桌面助手WinClaw。它能读懂各类文件并进行向量化处理,有多种检索方式,还能跨文档归纳、关系推理。具备安全的三层防护,支持双平台,注册即可用。

新智元
产品应用7

Codex 推出 /goal 功能,不达目标,不罢休

OpenAI 为 Codex CLI 新增 `/goal` 功能,目标跨轮次保持活跃,在同一个会话持续循环。它有防护机制,防止在无意义事上空转。虽然是实验性功能有局限,但改变了人和 AI 的协作界面。

AGI Hunt
推荐文章7

图解Vllm V1系列6:KVCacheManager与PrefixCaching

文章聚焦vllm v1,阐述调度器取请求时判断设备有无充足空间做推理的问题,涉及KVCacheManager与Prefix Caching。前者管理请求和块,后者通过找最长一致前缀节省显存,还介绍块分配释放策略与流程。

GiantPandaLLM
7

苹果画的饼谷歌率先搞定!Gemini全面进驻全家桶,连鼠标都AI上了

在Android Show独立发布会上,谷歌推出诸多新品,核心是将Gemini嵌入安卓底层,还带来AI鼠标光标、Googlebook等。Gemini能跨应用执行任务,Googlebook为其量身打造,谷歌这波操作像把苹果画的饼烙好端上桌。

量子位
产品应用7

LLM加速利器LMCache,极大降低GPU资源消耗

LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。

GitHubStore
算法论文8

阿里SkillClaw:让 Agent 技能在真实使用中集体进化

当前LLM Agent依赖可复用技能完成任务,但技能部署后静态不变,改进仅停留在当前会话。阿里SkillClaw提出中心化进化架构,将多用户交互作为技能改进信号,通过Agentic Evolver更新技能,经夜间验证后部署。

PaperAgent
新闻资讯7

当AI应用都在「撒钱」时,谁来扛住千亿交互背后的算力大考?

春节将至,AI应用竞争激烈,各大厂商纷纷「撒钱」。行业预测除夕当晚主流AI应用交互量或破千亿次,考验底层算力。Remy爆火时,共绩科技助其扛住流量冲击,其弹性算力调度优势明显,适合春节流量洪峰。

机器之心
开源动态7

详解Github 35K+项目:打通200+数据源,构建企业级AI的数据统一入口,支持MCP【上篇】

文章实测开源的AI数据统一访问引擎MindsDB,介绍其架构、安装启动方法,展示跨多数据源统一查询、AI模型赋能数据查询等功能,还将在下篇介绍知识库与智能体特性。

AI大模型应用实践
推荐文章8

通用Agent长啥样

视频探讨大厂做基于命令行编程工具的原因,介绍命令行Agent,剖析其等于庞大工具生态、经典Unix组合哲学与现代AI调度能力,指出通用Agent骨架由AI大脑、命令行身躯和MCP感官构成。

newtype AI
新闻资讯8

Anthropic这回撒钱了!Claude Code最高白送250美元

本文报道Anthropic推出正式版Claude Code云端会话功能,为符合条件的老用户发放最高250美元免费赠额,推广云端离线跑代码新能力,介绍了活动规则、功能特点及业内讨论。

新智元