「提示词攻击」共找到 672 篇相关文章
OpenAI 内部揭秘：我们如何使用 Codex
文章揭秘 OpenAI 内部使用 Codex 的情况，介绍其在理解代码、重构迁移、性能优化等多方面的应用场景，还给出最佳实践，如用‘提问模式’开始、组织好提示等，展现了 Codex 强大的开发辅助能力。
Figma 如何使用 AI 来支持而不是取代设计师
Figma 在设计平台集成 AI，有自动命名层等功能，能将文本提示等转换为生产就绪代码。其 AI 功能基于早期基础设施，关键在于 Dev Mode 和 MCP 服务器，确保设计师掌控输出，降低制作软件障碍。
无需训练的LLM对齐方法综述
大型语言模型应用引发担忧，传统微调方法有短板，免训练对齐（TF Alignment）应运而生。本文是首篇系统综述TF对齐技术的论文，提出三阶段分类框架，实验显示TF方法优势明显，还指明未来研究方向。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
“GPT-6”Astra能力首次公开！浙大同济校友参与研发
OpenAI为下一代模型Astra（传说中的GPT - 6）拉满预热，公开其能力。它在网络安全测试表现出色，但强大能力带来安全隐患。OpenAI设两道安全闸门，且两位华人研究员参与研发。此外，其新技术或影响可监控性。
实锤！GPT-5.5「降智」被抓，OpenAI官方文档认了
近期，网友发现GPT - 5.5使用一两个小时后突然变傻、质量下降，开发者经测试实锤系统会静默切换模型。Plus和Pro用户均受影响，此前GPT各版本升级也常引发“降智争议”。
刚刚，何恺明团队新作，「嵌入式语言流」ELF来了
何恺明团队提出ELF模型，将扩散过程置于连续向量空间，只在最后翻译成词。它用一个网络实现去噪和解码，引入自条件机制。实验显示，ELF用不到其他方法十分之一数据，生成质量全面领先。
Claude Opus 4.6差评如潮！思考深度暴跌67%，AMD总监6852次日志打脸
Claude Opus 4.6遭差评，用户感其「变笨」，输出浅、易失败、违规提示增多。AMD总监用6852次日志证明其「思考深度」降67%，价格高却性能倒退。Anthropic虽称优化，但用户不满默认值被改。
Harness Engineering又他妈是啥？
AI圈新词Harness Engineering引发关注。它类似给AI套缰绳，让其运转更高效。通过案例表明，模型非瓶颈，环境才关键。还介绍不同实现方式，指出命名有价值，最后探讨培养新人设计harness的问题。
AI看图一本正经胡说八道？「一拉一推」让模型看得全又准｜微软x清华
随着视觉 - 语言模型（VLM）推理能力增强，‘看错’问题凸显。现有方法有局限，微软亚洲研究院与清华提出BiPS，从训练阶段重塑模型‘看图方式’，通过‘一拉一推’机制让模型‘看全又准’，实验效果显著。