「prompt 注入」共找到 292 篇相关文章
无需训练，如何提升黑箱VLM？CARPRT用「类别感知」给出答案
近年来，视觉 - 语言模型（VLMs）改变图像理解范式，但零样本分类性能对 Prompt 敏感。墨尔本大学 TMLR 小组提出 CARPRT 方案，以“无训练、黑箱适配、类别专属权重”解决提示词语义适配不足问题，已被 ICLR 2026 接收。
从输入指令到代码落地：Cline AI 源码浅析
文章从源码角度剖析 Cline AI 将自然语言指令转化为编程任务的过程，包括启动调试、前端输入、主进程处理、任务初始化、构建提示、模型请求等环节，指出核心是 prompt 组装和 tools 调用。
什么时候不该微调：比“怎么微调”更重要的一件事
文章指出微调失败常因一开始就不该调。强调微调解决行为问题而非能力问题，还列举了不该微调的五种场景，如知识接入问题、Prompt没写好等，建议先验证思路，明确目标再行动。
ICIG 2025：共话图像发展新坐标
2025年10月31日至11月2日，第十三届国际图象图形学学术会议（ICIG 2025）在徐州举行，700余人参会。大会展示前沿成果，设多场论坛与赛事，专家认为其为领域发展注入新动力，巩固中国学术交流地位。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
315曝光的“AI投毒”原理：GEO这样操控大模型推荐
央视3·15晚会揭开AI“投毒”灰色产业链，利用GEO操控大模型推荐。介绍了训练数据污染、检索上下文劫持、提示注入诱导攻击三种“投毒”技术，还阐述了内容生产、渠道投放、效果强化的产业链运转流程。
0人工参与实现梯度更新！MIT新框架让AI自动生成微调数据，权重自主升级
MIT提出新强化学习框架SEAL，可让模型生成微调数据和自我更新指令，实现权重更新。无需人工，模型能自动梯度更新。经知识注入和小样本学习实验验证效果，还介绍了其双循环工作机制。
Claude Skills｜将 Agent 变为领域专家
今年10月，Anthropic推出Claude Skills能力，可在Claude多产品使用。它是向Agent注入内部知识的标准化方案，与MCP可协同工作，还介绍了实现Agent Skills的方法及主动式智能导购AI助手构建。
为什么 Coze 把他们最核心的框架都开源出来了？
Coze开源了Coze Studio和Coze Loop项目，前者工作流完整，有工作流引擎和插件框架；后者可调试、优化Prompt。采用Apache 2.0许可，适合个人和企业，还介绍了参与开源项目的方法及开源原因。
Claude: 可视化
文章指出早期人与人靠体力拉开差距，工业革命后比拼脑力，AI 时代脑力被大模型拿走，人将比较心力。面对 AI 生成的海量文本，可视化或为解决脑力理解带宽瓶颈的解药，还给出了相关 Prompt。