「词嵌入向量」共找到 602 篇相关文章
最近新出现的两个提示词注入攻击场景
随着AI应用广泛，提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件，与AI分析系统对抗；二是多所大学论文含面向AI的秘密指令，对抗AI审稿。本质是攻防双方的对抗，且会持续。
解读Qwen3文本嵌入与重排序技术版图
文本嵌入和重排序是NLP和信息检索关键组件。Qwen3 Embedding、Qwen3 Rerank模型基于Qwen3基础模型构建，有三种参数尺寸。文章介绍其架构、训练方案，还给出实战代码。
YC最新总结顶尖的提示词应该怎么写？
提示工程在大模型时代愈发重要，其核心在于提示词设计。近日，YC在播客分享从与大模型创业公司学到的提示工程实践，涵盖核心原则、进阶技巧、企业级实践、创业者模式等内容。
间接提示词注入攻击(IPIA)原理、方法及案例
本文介绍间接提示词注入攻击（IPIA），它于2023年5月被认定，通过恶意三方数据攻击，适应性广。文中阐述攻击过程、方法，还以Mavy GPT日历泄露为例说明，指出虽有防护但攻击仍会持续。
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
提示词工程、RAG之后，LangChain：上下文工程开始火了！
AI时代，上下文工程正兴起。它是构建动态系统，为LLM提供合适信息和工具以完成任务。随着应用复杂度增加，提供完整结构化上下文比提示词更重要，正成AI工程师重要技能。
人格向量：大模型性格的数学解码与精准操控
大语言模型在应用中会出现危险行为偏移与训练引发的非预期偏移，传统方法难监控干预。本文发现人格特质在线性方向表现为“角色向量”，实现提前预测、实时监控和主动控制，为AI安全提供数学框架。
Anthropic 最新发布的 Agent 提示词的 12 条最新规则
指导智能体（Agent）执行复杂任务的关键在于明确验收标准与安全边界。文章整理了定义完成条件、维护长任务清单等 12 条实用规则，并提供了提示词骨架模版。
重复一下提示词，Gemini准确率竟从21%飙升至97%！
Google Research团队研究发现，重复提示词可让Gemini准确率从21.33%升至97.33%。该策略能提升主流大模型非推理任务表现，在多模型多基准测试中优势明显，且不增加延迟。
Atlas来了！ChatGPT嵌入浏览器，用谷歌的引擎，革谷歌的命
OpenAI推出ChatGPT Atlas浏览器，将ChatGPT嵌入浏览体验中心，具备智能体模式可自主执行操作，被视为对谷歌的宣战。此外，还有Perplexity的Comet、Opera的Neon及谷歌的Gemini版Chrome等参与竞争，但都基于Chromium架构。