「提示词攻击」共找到 672 篇相关文章
Agent 开发，迎来「AI 云原生」时刻
大模型时代，交互主体变为 Agent，「AI 云原生」应运而生。它围绕 Agent 重构架构，有全新技术栈。基于火山引擎工具和模型，展示了 Agent 开发的新流程，还做了两个应用案例。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。
Meta 演示现场翻车的原因……让人好笑又心疼
Meta Connect大会上Meta Reality Labs演示翻车，原因是语音命令激活多人Meta AI，对开发服务器DDOS攻击，且MPK所有人被路由到该服务器，此外眼镜显示屏还有意外bug，这次翻车为行业提供了经验。
用 Codex 读 DeepSeek 最新论文 DSpark，AI 改变了读书方式
作者用 Codex 加‘论文 Skill’读 DeepSeek 最新论文 DSpark，省一半时间还获图文并茂中文解读材料。介绍了使用方法、优势，如叠三层能力让读论文成共读之事，处理词、段及全文后可重构知识材料。
Google情报报告：滥用 AI 工具的最新进展
谷歌威胁情报小组（GTIG）报告显示，2025年攻击者将新型AI恶意软件用于实际攻击，恶意软件采用即时AI、利用社会工程绕过防护，AI工具网络犯罪市场成熟，如PROMPTFLUX等利用AI动态改变行为。
n8n官方推出AI工作流生成器，用自然语言构建工作流
n8n官方推出AI Workflow Builder，可将文字提示转成可执行工作流，本周向n8n Cloud用户推送。该功能降低构建门槛，但易用性提升也带来新挑战，其是否沦为‘面向VC’功能待验证。
超越纯视觉模型！不改VLM标准架构，实现像素级深度预测
Meta开源DepthLM，首证视觉语言模型不改架构，也能媲美纯视觉模型的3D理解能力。它通过视觉提示等策略，解锁VLM多任务处理潜力，为自动驾驶等领域带来前景。
AI全国榜单爆冷，全网吃瓜大狂欢！这家黑马竟靠DeepSeek杀进全国TOP 2
QuestMobile报告显示，夸克月人均使用次数居AI搜索第一，微博智搜凭DeepSeek排第二，腾讯「新闻妹」第三。实测发现，夸克产品力强，微博智搜让信息获取高效，新闻妹有划词提问等功能，AI搜索正重塑格局。
不得不说你的GEO优化的很好
白杨SEO结合自身经验，分享AI搜索优化GEO推广相关问题。包括第一步要确认业务、分析现状找真实需求；介绍确定精准意图词的方法；还阐述GEO与SEO关系及推广效果和转化挂钩的办法。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。