Prompt缓存诊断功能」共找到 342 篇相关文章

开源动态8

AI Agent也有体检中心了?诊断级安全框架AgentDoG正式开源

上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法,构建数据合成管道,实验表现领先,还集成归因模块。

PaperAgent
推荐文章7

一个极度实用的Prompt,帮你挖掘出自己的隐藏天赋。

作者朋友被裁后认为自己没天赋,作者由此思考天赋问题,花时间迭代出挖掘天赋的Prompt,借助AI与人深度对话,根据回答输出天赋报告,还举例自己找到天赋的经历,强调找到天赋的重要性。

数字生命卡兹克
开源动态7

两分钟Claude Code模型换成DeepSeek,立省17倍,缓存后爆省120倍

GitHub开源deepclaude,两分钟可将Claude Code模型换成DeepSeek V4 Pro,开销直降17倍。自带上下文缓存机制,重复对话成本降120倍。支持多后端选项,可丝滑切换,还能打破设备限制远程编程。

AIGC开放社区
产品应用8

MySQL复制延迟终结者:AliSQL 高效AI诊断和四大内核级优化

MySQL主从复制延迟损害实例可用性和时效性。AliSQL引入AI诊断定位原因,针对大表DDL、大事务、批量数据处理和小事务高并发四类场景,进行内核级优化,消除复制延迟。

阿里云开发者
算法论文8

英伟达、港大等发布创新KV缓存,实现扩散模型无训练加速

多数开源扩散语言模型推理效率不如自回归模型,英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算,还提出基于置信度的平行解码策略,测试显示能加速且保持生成质量。

AIGC开放社区
新闻资讯7

GitHub Issues 大改造:用缓存和预取,让页面打开快了数倍

GitHub 重新设计 GitHub Issues 导航架构,通过客户端缓存、预测性预取等机制,提升导航性能,使即时导航体验比例从 4%增至 22%,解决大型 Web 应用常见的延迟问题。

InfoQ
新闻资讯8

复制失败与脏碎片:Linux 页面缓存漏洞影响所有主流发行版

一周内,两处 Linux 内核本地权限提升漏洞“复制失败”和“脏碎片”被披露,可使无特权本地用户获 root 权限。前者由 Theori 用 AI 工具发现,后者由 Hyunwoo Kim 发布,均影响页面缓存,与“脏管道”属同一类漏洞。

InfoQ
算法论文8

重塑注意力机制:GTA登场,KV缓存缩减70%、计算量削减62.5%

GTA由多所高校联合研发,提出大模型框架,解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示,削减计算量、缩减KV缓存,实验验证其性能优、效率高,虽有局限但前景好。

机器之心
开源动态7

缓存命中率99.93%!DeepSeek最适合的Harness来了,GitHub狂揽8.6万Star

DeepSeek官方版Harness未出,民间开源编程Agent「Pi」先火。它适配DeepSeek,让其缓存不命中率低至0.03%,调用成本大降。Composio测试显示Pi完成任务平均成本最低。同时,DeepSeek正组建团队做官方Harness。

量子位
7

DeepSeek V4永久降价!缓存命中再打1折,实测编程成本骤降83%

DeepSeek两天连续两次降价,输入输出2.5折,命中缓存输入折上再1折且无时限。实测编程成本骤降83%,此前31.73元,打折后只需5.34元。其曾引发价格战,此次对海外用户冲击更大。

量子位