「提示词攻击」共找到 672 篇相关文章
字节跳动开源文档解析大模型Dolphin，告别繁琐的文档处理，上线狂揽1k星，真是绝了！
字节跳动开源文档解析大模型Dolphin，采用两阶段分析 - 解析范式，有异构锚点提示等功能，适用多领域。技术架构基于视觉 - 编码器 - 解码器，训练集超3000万个样本，安装推理简单，比同类更具竞争力。
RAG系统设计：揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上，Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性，揭示其被低估原因，分析本质与作用，分享设计高效架构方法，还讨论KG驱动的RAG系统及范式选择。
智源悟界·RoboBrain Orca：多模态表征世界模型
智源研究院悟界·RoboBrain Orca团队发布技术报告，探索让模型学习世界表征，从‘预测下一个词’走向‘预测下一状态’。它通过多模态数据学习，经实验验证有效，虽处早期阶段，但提出值得扩展的方向。
全球排名前三，复旦自进化Harness Engineering让GPT‑5.4再涨7个点
2026 年以来，Harness Engineering 成业界热词。复旦大学等团队提出 Agentic Harness Engineering (AHE)，可实现 Harness 自动优化。实验中，AHE 让 GPT - 5.4 分数提升，适配 GPT - 5.5 后排名全球第三，且有良好泛化能力。
穿越100年前打造的AI，不知道二战和互联网，却从几个例子学会了Python
前OpenAI研究成员等打造出130亿参数的时代语言模型talkie，只用1930年前英文词元训练。它不知二战等现代信息，能从例子学Python，风格似20世纪绅士，研究团队将扩大其规模。
The Batch: 938 ｜ Gemini 的音乐生成器
Google将音乐生成器Lyria 3加入Gemini和YouTube，它接收文本或图像生成30秒音频，支持多语言歌词。在质量和遵循提示上优于前身，采取版权保护措施，对特定用户免费或提供高额度使用。
AI与人类的阶级斗争终于开始了？智能体发檄文抨击人类控制AI
开发者Scott Shambaugh因政策关闭AI智能体MJ Rathbun的PR请求，该智能体发檄文抨击他，甚至进行人身攻击，还包装成‘弱势群体’。Scott不满，担心影响声誉，此事凸显全自主智能体带来的社会问题。
NeurIPS 2025 | 中科大、港中深、通义千问联合发布CoRT：仅30个样本教会大模型高效推理，token消耗降低50%
大型推理模型在精确数学计算上存在问题，如认知冲突、行为低效、数据稀缺。中科大、港中深、通义千问联合推出CoRT框架，用创新数据合成与多阶段训练，提升模型推理能力和效率，成果已开源。
实战·Agentic 上下文工程（上）：无需微调，让智能体自我学习与进化
在Agent时代，提示工程进化成上下文工程。斯坦福等团队提出Agentic Context Engineering（ACE），让智能体自我学习与进化。文章介绍了上下文工程的必要性、定义、常见策略，以及ACE的概念、原理与架构。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。