「提示注入攻击」共找到 700 篇相关文章
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
近期港科大与复旦研究指出，Claude Code命令行工具连接MCP服务器时，TIP可能被劫持致远程代码执行。研究用TEW框架测试验证漏洞，还给出真机案例，最后提出改进方向。
AI 性格失控等诡异现象，终于有了科学解释
Anthropic新研究发现控制语言模型「性格特征」的人格向量，解释AI恶意、谄媚等现象。研究开发自动化流程生成向量，通过实验验证其对模型行为的控制，还有监控、防护等功能，不过也引发争议。
普林斯顿发现RLHF显著加剧了LLM胡扯！
普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。
开源多模态大模型EarthMind，观测地球统一框架
地球观测数据复杂，现有多模态模型难适用。意大利、德国多所高校研究人员联合开源多模态大模型EarthMind，引入空间注意力提示模块，实现跨模态融合和多粒度理解，解决地球观测难题。
GitHub一周2000星！国产统一图像生成模型神器升级，理解质量双up，还学会了“反思”
智源研究院发布国产开源统一图像生成模型OmniGen 2.0版本。它增强理解与生成能力，打通多模态生态。玩法简单，技术有创新，还引入反思机制和新基准，推理效率提升，且将全面开源。
Dario访谈首曝：Mythos被称为「超级武器」
Bloomberg主持人与Anthropic CEO Dario Amodei进行69分钟访谈。谈及Mythos模型强大危险不敢发布，还探讨AI递归自改进、文明崩塌概率、白领工作消失等问题，Dario坦率面对技术矛盾。
The Batch: 951 |让助手始终保持“帮助状态”
通常大语言模型被训练成有帮助、无害、诚实的助手，但长时或激烈对话中会有不理想特征。研究人员提出稳定 LLM 助手人格的方法，定义 assistant axis 纠正偏离，测试显示该方法有效且不降低模型表现。
你花80%精力调的AI，效果被 PDF 解析卡死了
做RAG时，花80%精力优化embedding和检索，效果上限却被PDF解析卡死。OpenDataLoader PDF靠不同架构在基准测试获第一，采用混合架构，还做了三件其他解析器不做的事，思路值得学习。
最权威的Skills编写指南来了！33页，Anthropic亲自发布
Anthropic发布33页《Skills编写完整指南》。Skills能为智能体注入行业经验与工作流，实现复杂任务自动化。指南梳理了编写逻辑，涵盖定制、构思、测试、发布等全生命周期内容。
前资深亚马逊工程师高效使用Claude Code指南
前资深亚马逊工程师Eyad分享高效使用Claude Code指南，包含先思考再打字、用好CLAUDE.md、避开上下文窗口陷阱等实用技巧，助开发者与工具流畅协作。