「Agent攻击」共找到 2996 篇相关文章

开源动态8

阿里开源 Team 版 OpenClaw,5分钟完成本地安装

阿里开源 Team 版 OpenClaw——HiClaw,它是 OpenClaw 超进化版,引入 Manager Agent 角色,解决了 OpenClaw 在安全、多任务协作、移动端体验、记忆管理等方面的痛点,还集成多个开源组件,部署简单,适合开发者和企业。

阿里云开发者
推荐文章8

当我把 AI 变成一个"算法":Skill 工程化设计的心路历程

作者分享将 Agent 工程化设计的历程。指出 LLM 做 Agent 有痛点,引入 CLI 接管确定性任务和上下文管理,还设计了 Workflow 串联工具,实现自动扩展和无缝互转,最后做 workflow - creator 形成自洽闭环。

腾讯技术工程
新闻资讯7

加一个字母就可以绕过AI围栏,新的漏洞:TokenBreak

提示词注入攻击威胁大模型及应用,当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞,通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击,Unigram不易,建议优先选Unigram类模型。

AI与安全
算法论文7

进攻是最好的防守:超级平台为何「不得不」对AI智能体出手?

上海交通大学团队提出,超级平台“必须”攻击AI智能体,以守住其作为数字流量守门人的地位。研究从守门人理论分析反击原因,还阐述平台应对策略、攻击策略特点约束,最后强调要推动建设性技术治理生态。

AI科技评论
推荐文章7

Opus 4.5之后,AI正在催生“巨头型百人公司”

Opus 4.5发布后,Agent赛道洗牌,模型差距由Agent Loop拉开。本文围绕Cherry Studio,与创始人及投资人探讨AI公司护城河、开源意义、用户价值差异等,指出未来将催生“巨头型百人公司”。

五源资本 5Y Capital
开源动态8

OpenAI用8个Skill把工程师的经验变成AI的工作手册:扛起两个SDK,3个月457个PR

OpenAI公开用Codex + Skills维护Agents SDK开源项目的方法论。通过AGENTS.md、Skills和GitHub Actions配合,将重复性工作自动化,PR吞吐量涨45%。还介绍了Skill设计、规则设定、测试策略等,且方案组件已开放。

AGI Hunt
新闻资讯7

绕过Azure AI 护栏的方法及案例

本文指出Azure AI有安全漏洞,攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤,阐述字符注入与对抗性机器学习规避两种攻击技巧,展示攻击效果,还提及微软已部署缓解措施并给出安全建议。

AI与安全
推荐文章7

AI 编码效率 x10,Bug 风险也 x10

亚马逊工程师 Joe Mag 分享团队用 Coding Agent 使代码产出效率提 10 倍,但 Bug 风险也放大 10 倍。介绍‘Agentic Coding’工作流,还给出借助 AI 做‘风洞测试’、升级 CI/CD、升级决策和沟通系统等建议。

宝玉AI
开源动态8

Coze 开源 :全整理

字节跳动开源AI Agent开发平台Coze,含核心产品Coze Studio和Coze Loop。前者可零代码或低代码编排AI Agent;后者是运维中心,解决全链路挑战。采用Apache 2.0协议,安装门槛低,意在构建生态闭环。

AI进修生
产品应用7

腾讯WorkBuddy联名硬件来了!首批100多家伙伴入场

9月2日腾讯WorkBuddy开放平台上线,亮相9款联名智能硬件、30多个行业应用与超100家生态伙伴。其是国内AI Agent赛道首个打通三层生态的开放平台,目标是成「面向Agent时代的操作系统」。

量子位