「提示词攻击」共找到 672 篇相关文章
ChatGPT「学习模式」火爆上线，一大波教育AI连夜被端！24小时导师免费用
OpenAI为ChatGPT上线苏格拉底「学习模式」，针对大学生，以交互式提示、分步解答等功能引导学习，可应对复杂学科难题。一经推出便受网友热捧，有人预言将端掉一波教育类AI。
大模型如何"不训练"也能学习？——上下文学习的隐式权重更新机制
大型语言模型能通过上下文学习（ICL）在推理时即时学习新任务，无需修改模型参数。本文首次证明自注意力层与MLP层组合能隐式将上下文信息转为MLP层低秩权重更新，解释了ICL原理，为构建AI系统开辟新路径。
「AI黑客」来袭，Agentic AI如何成为新守护者？
AI 发展带来网络安全新威胁，如生成式 AI 诈骗、深度伪造等。业内共识是以 AI 对抗 AI，有模型防护、行业应用、政府协作三类尝试。青藤云安全推出全栈式安全智能体「无相」，革新安全思维。
OpenAI Astra发布在即，全自动网络攻防能力已突破天际！
OpenAI即将发布的模型Astra，在内部评测中获ExploitBench满分，还发现两个零日漏洞。它能力远超上一代GPT - 5.6 Sol且更听话。不过为安全考虑，OpenAI部署监控，还放慢其研究速度。
传奇黑客首次造出“透明芯片”，从硬件到代码全部公开可验证
8月初第34届Defcon黑客大会，主办方发放美籍华裔黑客黄欣国设计的徽章，核心是开源微控制器Baochip - 1x。该芯片从设计到制造全开放可验证，用红外原位检测，还集成硬件加固手段，安全性能对标商用元件。
戒糖反倒伤身？科学家发现完全不吃白糖的小鼠血糖更差
科威特 Dasman 糖尿病研究所的新研究通过小鼠实验发现，完全不吃糖的低脂饮食会致小鼠血糖失控、肠道细菌紊乱等。研究警示均衡营养比简单戒糖更重要，或影响未来膳食建议。
Claude Code创始人内部分享：10个实战技巧
Claude Code创始人Boris Cherny公开团队使用该AI编程工具的完整经验，涵盖并行处理、计划模式等10个实战技巧，还指出理解思想、找到适合自己的工作流程更关键。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
AI+直播的新玩法! StreamDiffusionV2让创意零延迟
生成模型改变直播行业，但此前模型难保证时间一致性、有延迟等问题。加利福尼亚大学推出StreamDiffusionV2，通过智能调度和缓存机制优化，支持多GPU并行，可灵活调画质和延迟，实现实时直播。
Windows 10 停服引发全球热议，国产OS迎来窗口期？专家：技术迭代是残酷的，也是必然过程
微软宣布 2025 年 10 月 14 日停掉 Windows 10 免费更新与技术支持。这引发全球热议，也让国产 OS 迎来发展思考。专家认为这会加速生态多样、重塑产业价值链，同时分析了国产系统机遇、挑战和发展路径。