「Prompt技巧」共找到 313 篇相关文章
微软的prompt压缩方案-LLMLingua,开源
使用大语言模型时，提示信息长会致运行慢、费用高、易超限。微软推出的LLMLingua可压缩提示信息，有完整开源。它历经多版本演进，还能用于安全防御，使用简单，值得开发者跟踪。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践，涉及GPT - OSS、DeepSeek - V3等模型，采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术，在性能提升、减少延迟等方面效果显著。
用中等难度prompt做高效post training
近年来，RL后训练在LLM发展中至关重要，但传统方法效率低。本文提出PCL轻量级算法，通过动态选中等难度提示提升LLM后训练效率，经多基准实验验证其优越性，也指出方法局限与未来方向。
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR，针对Fused Triton MoE的Down Projection kernel加入TMA优化，在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著，还详细分析了优化背景、思路、实现细节及测试结果。
我这半年看过最好的 Vibe Coding 技巧
OpenAI 创始成员 Andrej Karpathy 在 X 阐述 Vibe Coding 实践，提出建立三层结构让不同工具各司其职完成开发。介绍不同场景适用工具，还谈及‘后代码稀缺时代’焦虑，给开发者带来启发。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
Gemini 的 PPT 生成：使用技巧及模板提示词
Gemini APP 上线 PPT 生成能力，可通过提示词精细控制，还能与谷歌产品打通。文章介绍其使用方法，如开启 Canvas 模式、利用搜索填充内容等，还分享百搭 PPT 风格提示词。
让本地大模型不再重复推理的缓存技巧
本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。
刚刚，ChatGPT支持MCP了！一句Prompt即可全自动化
今天，OpenAI官宣ChatGPT的MCP功能上线，仅Plus和Pro用户可用。MCP可让AI模型等标准化交互，使ChatGPT自动化程度大幅提高。官方Demo展示其强大潜力，网友态度积极，但功能仍有改进空间。
别再设计 Prompt，顶尖工程师已经开始写 Loop 了！
2026年6月，“Loop Engineering（循环工程）”一词热门起来。其核心主张是不用再亲自给AI写提示词，而是设计驱动Agent的循环。Anthropic的工程师还写成了完整手册，介绍搭建方法、关键及最佳实践等。