「提示词缓存」共找到 622 篇相关文章
“烧掉94亿个OpenAI Token后，这些经验帮我们省了43%的成本！”
作者以月耗94亿OpenAI Token实战经历，分享优化成本经验，如选对模型、用提示词缓存、设账单预警等，降低成本43%，不过网友对此有不同看法。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
GitHub 23.6k star 的 BMAD Method：如何把大模型系统提示词，变成一支“可复制的 AI 开发团队”？
BMAD Method是开源的AI驱动敏捷开发方法论与工具集，基于BMAD Core框架，有19个专业AI角色和50+条工作流，获23.6k颗GitHub Star。它解决了大模型使用痛点，将AI开发工程化，可在多工具复用。
提示工程死亡？不，它刚刚重生为计算科学：一篇讲透Prompt设计的科学基础
大型语言模型在多步推理任务中受挫，因Transformer架构有计算深度限制。本文建立提示设计理论框架，揭示提示是信息选择器，优化提示可使推理性能提升超50%，将提示设计从试错艺术变为可计算科学。
腾讯混元图像3.0开源榜一，工业级800亿参数可商用，附提示技巧
28日，腾讯开源800亿参数的工业级原生多模态生图模型HunyuanImage 3.0，个人和月活≤1亿公司可免费用。它是全球参数量最大、性能最好的开源图像生成模型，技术强、评估表现优，官方还整理了提示词手册。
Claude Code 里那些奇奇怪怪的词是什么？
作者用Claude Code调查其处理任务时冒出怪词的原因，发现这些词存于`UK5`对象，有88个动词 -ing 形式，硬编码在客户端。词中有常规、怪词、造词、俚语等，增添幽默。
AI产业的新胜负手：词元的生产与编排｜甲子光年智库
AI产业正走向“代理式执行”，核心生产逻辑从“数据驱动”转为“词元驱动”。文章阐述了词元经济的形成、生产过程及运行链路，指出AI竞争将围绕词元生产与编排展开。
DeepSeek 为什么把缓存涨了 11 倍？长上下文需求暴涨，得交点「存储税」了
8月17日，DeepSeek V4 Pro API输入和输出价格上涨，空闲时段缓存命中价涨5倍，高峰时涨11倍。此前其因高缓存命中率成性价比之选，但长上下文需求爆发致后端“缓存颠簸”，只能通过涨价收“存储税”。开发者可提高缓存命中率应对。
上下文工程的崛起：提示工程已是过去式
大模型应用从简单问答转向复杂智能体系统，技术焦点正从提示工程转向上下文工程。上下文工程核心是为大模型提供恰当信息与工具，其重要性日益凸显，且与提示词工程有明显区别。
Nano Banana Pro 一键极速分镜
Nano Banana Pro能通过一个提示生成叙事型九宫格分镜，用户可构思故事或修改已有故事，还能放大分镜、提示AI修改，该流程极大提升视觉叙事速度，文中还给出提示词示例及任务要求。