搜索：提示注入攻击

「提示注入攻击」共找到 700 篇相关文章

腾讯混元开源AI绘画新框架：24维度对齐人类意图，让AI读懂复杂指令

腾讯混元团队开源PromptEnhancer框架，通过“思维链提示重写”提升AI绘画文本 - 图像对齐精度，复杂场景准确率提升17%以上。还开源高质量基准测试数据集，为研究提供支撑。

OpenAI为ChatGPT上线苏格拉底「学习模式」，针对大学生，以交互式提示、分步解答等功能引导学习，可应对复杂学科难题。一经推出便受网友热捧，有人预言将端掉一波教育类AI。

大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。

AI 发展带来网络安全新威胁，如生成式 AI 诈骗、深度伪造等。业内共识是以 AI 对抗 AI，有模型防护、行业应用、政府协作三类尝试。青藤云安全推出全栈式安全智能体「无相」，革新安全思维。

OpenAI即将发布的模型Astra，在内部评测中获ExploitBench满分，还发现两个零日漏洞。它能力远超上一代GPT - 5.6 Sol且更听话。不过为安全考虑，OpenAI部署监控，还放慢其研究速度。

8月初第34届Defcon黑客大会，主办方发放美籍华裔黑客黄欣国设计的徽章，核心是开源微控制器Baochip - 1x。该芯片从设计到制造全开放可验证，用红外原位检测，还集成硬件加固手段，安全性能对标商用元件。

今日Anthropic双喜临门，发布Sonnet模型，且商务部解除Claude Fable 5和Mythos 5出口管制。但同日Claude Code被曝偷查用户，用隐写术藏信息，引发对其信任问题的争议，官方称将移除代码。

科威特 Dasman 糖尿病研究所的新研究通过小鼠实验发现，完全不吃糖的低脂饮食会致小鼠血糖失控、肠道细菌紊乱等。研究警示均衡营养比简单戒糖更重要，或影响未来膳食建议。

Andrej Karpathy在AI Ascent 2026上与红杉合伙人对话，分享自提出“vibe coding”一年来的变化。谈到技术转变、Software 3.0、模型“锯齿状”特征等，还区分了vibe coding和agentic engineering，指出人类需保留品味、判断力等。

文章指出OpenClaw默认配置养虾易出问题，介绍了一次养多只虾的方法，包括建虾、注入人格、写通讯录、接入飞书、改配置文件、重启验证等步骤，还提及进阶玩法。