「间接提示词注入攻击」共找到 569 篇相关文章
Nano Banana 2突然现身！能画公式解数学题，监控画面都能伪造
Nano Banana 2代以预览版现身第三方网站，后被移除。其能力远超1代，能处理复杂提示，可生成复杂UI、解数学题甚至伪造监控画面。谷歌正将Nano Banana整合进核心产品生态。
当AI开始设计芯片
英国XMOS芯片设计公司正研发GenAI工具，能用自然语言提示配置Xcore处理器硬件特性。这不仅能重塑芯片设计流程，让不同背景的人参与设计，还推动商业模式从卖硬件转向卖确定性，挖掘芯片“时间价值”。
突发！Anthropic “封杀”中国控股公司，禁止其使用Claude等AI服务
9月5日，Anthropic公司宣布禁止多数股权由中国资本持有的集团或其子公司使用Claude，政策调整涉及“直接或间接由中国实体控制（占股比例超过50%）”的企业，也适用于俄、伊、朝等国。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 博文警告，基于 MCP 构建的 AI 开发工具引入安全漏洞，如凭证泄露等。MCP 发展迅猛但部分实现有隐患，Docker 分析发现广泛漏洞，还提出强化方法应对风险，其他厂商也有类似担忧。
一个APP就能拍短片！人物、字幕、BGM……AI Agent统统自己搞定
剪映旗下内容创作Agent小云雀上线新功能，可文生数字人，还能根据提示词生成视频。它有“参考图生视频”玩法，能解决图片混剪难题。依托字节模型，创作门槛低，交付质量高，限时免费。
当大模型陷入幻觉循环，如何用工程化给它“立规矩”？
普林斯顿和伯克利研究定义“机器胡扯”，指出大模型胡扯问题。蚂蚁集团旗下蚂蚁密算在2025 WAIC提出高阶程序（HOP）框架，为大模型注入规则，还开源此框架，其在多行业场景应用效果良好。
ICML2025 | 揭示MLLM的图文联动推理能力
当前多模态大语言模型（MLLMs）在图文深度融合推理能力上面临挑战，现有评测基准无法真正检验该能力。EMMA基准应运而生，它从四大领域精选题目，采用双重过滤机制和细粒度标注体系，评测发现MLLMs存在多模态推理危机。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
回复：用 AI 辅导教学问题
家长询问用Gemini 2.5 pro的OCR功能辅助孩子预习九门课程的问题，包括撰写提示词、有无更合适AI方案、家长角色及评估学习成果等，回复给出对应建议，如没必要上传教材等。
Karpathy 最新演讲精华：软件3.0时代，每个人都是程序员
Andrej Karpathy 在 YC 旧金山创业大会演讲，介绍软件从 1.0 到 3.0 的演变，指出软件 3.0 由 LLMs 驱动，自然语言提示成编程方式。还阐述 LLMs 特性、机遇与挑战，强调为 Agent 构建软件等内容。