「提示词攻击」共找到 672 篇相关文章
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
使用 GPT-5 进行编程的六个技巧
OpenAI给出使用GPT - 5编程的6个提示技巧，如指令准确无冲突、选对推理力度、用类XML语法结构化规则等，还提供了详细提示技巧的参考链接。
ACL'25 | 多智能体叛变进行中？首个多智能体安全守卫G-Safeguard亮相！
随着基于LLM的多智能体系统崛起，其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架，它基于图神经网络，通过构建多智能体话语图等方式，能有效抑制恶意信息传播，有强大防御和泛化能力。
【万字长文】Anthropic发布Prompt Engineering全新指南
Anthropic发布全新Prompt Engineering指南，涵盖元提示、模板等关键技术。介绍了prompt类型、必备要素，还给出优化技巧，如添加示例、思维链精炼等，涉及XML标签、链式提示等方法，也提及减少幻觉、提高一致性等内容。
刚刚，奥特曼家被炸了！
当地时间周五清晨，一名20岁男子向奥特曼旧金山的豪宅投掷燃烧弹，引发火灾，警方随后拘留了嫌疑人。奥特曼愤怒发声，深刻回应公众对AI的焦虑，反思自身，指出AI行业斗争源于AGI的权力诱惑。
ElevenLabs 发布“视频到音乐”：AI 读懂视频内容，为其创作氛围匹配的 BGM。
ElevenLabs推出“视频到音乐”功能，其“Eleven Music”模型能分析视频上下文、情绪和风格，一键生成匹配的定制背景音乐，还能添加画外音和音效，为创作者提供端到端音视频解决方案。
8.8k星星！开源的211个专家级Agent，一键接入，一个人就是一个团队
今天推荐agency-agents-zh库，它是agency-agents深度汉化版，有211个精选Agent，适配国内生态。需注意，skill并非越多越好，按需选择，避免浪费资源和输出无效结果。
Hinton为给儿子赚钱加入谷歌，现在痛悔毕生AI工作，“青少年学做水管工吧”
被誉为‘AI教父’的Geoffrey Hinton在访谈中称后悔毕生AI工作。他列举网络犯罪、超级智能威胁等AI风险，建议青少年学做水管工避职业危机，呼吁AI公司研究安全并加强监管。
Meta联合Google新作：语言模型到底“记”了多少东西？
Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。
The Batch: 940 ｜Claude Mythos Preview 引发安全担忧
Anthropic为即将推出的Claude Mythos Preview采取特别预备措施，因其会带来网络安全风险。该模型能力强大，能发现众多代码漏洞。Anthropic组建联盟增强防御，其表现也优于多个知名模型。