搜索：提示注入攻击

「提示注入攻击」共找到 700 篇相关文章

1个决定痛失千万美元！90后前英伟达工程师不后悔：老黄这3句更值钱

2022年深秋，Sid Pardeshi在ChatGPT爆发前夜辞去英伟达高级工程师职位，错过数千万美元股票收益。他不后悔，在英伟达七年多从黄仁勋处学到比财富更值钱的东西，还总结出黄仁勋管理哲学的三个启示。

Anthropic 在 Agent 工程领域不断创新，除了 MCP 外还推出 Skills 与 PTC 并在 Claude 平台落地。本文深度拆解 MCP + PTC、Skills 与 Subagents 的定位、联系与应用，助你拓展构建 Agent 系统的思维。

OpenAI推出ChatGPT「学习模式」，旨在支持真正的学习。该模式从答案机变导师，通过定制指令实现智能教学，有交互式提示等特性，测试反馈积极，未来还会有更多功能。

过去，开发者让大模型用数据库查询数据需开发插件等，费时费力且难复用。StarRocks MCP Server 提供通用接口，让 LLM 标准化访问 StarRocks，执行 SQL 查询。MCP 规范模型与上下文交互，其核心组件分工明确。

文章指出AI普及需强大平台架构等作为底座，而当前基础设施迭代难满足需求。天翼云在峰会宣布全面升级息壤，聚焦三领域，从夯实技术、提升自主可控、培育生态三方面支撑千行百业转型。

美国商务部解除针对Claude Fable 5和Claude Mythos 5的出口管制，Anthropic将恢复两款模型访问权限。此前因安全担忧模型被限制，政策逐步松动后现整体解禁，Anthropic还发布了Claude Sonnet 5。

北大团队提出面向3D空间推理的新框架APEIRIA，将神经符号程序推理模式蒸馏进3D MLLM。采用三阶段课程学习，在多基准测试表现强劲，保留模块化优势，为具身智能系统提供启发。

作者用 Codex Security 分析项目，发现它不仅列漏洞，还提供攻击路径等。AI 没创造新漏洞，却放大缺陷，需新方式治理大规模自动生成代码，Harness Engineering 有防御价值。

近年来大模型任务突破离不开RLVR关键技术，许多RLVR方法会进行组内优势估计，北航等最新工作揭示其存在系统性偏差，困难题优势被低估，简单题被高估。这会影响训练，论文提出校正算法。

字节推出高保真个性化视频生成框架Lynx，基于开源的Diffusion Transformer，引入ID - adapter和Ref - adapter，在基准数据集表现优异，能平衡身份保真度等，还可拓展至多模态和多主体。