新闻资讯7

Andrej Karpathy：AI Agent使用要小心

AGI Hunt2025-06-17

AI 摘要

Andrej Karpathy警告AI Agent有安全风险，Simon Willison指出“致命三要素”会使AI Agent易被攻击，供应商防护不足，用户需避免危险工具组合，本地AI Agent风险尤高。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

MCP 走向无状态，社区看法不一

MCP 2026 - 07 - 28 规范取消协议会话，新增必需 HTTP 标头，可对智能体流量路由等。社区反应分歧大，有人认为无状态让 MCP 变回 REST API，也有人强调它是获 AI 提供商认可的标准。MCP SDK 下载量高，但服务器使用存问题。

文章介绍了27.2k Star的FastMCP，它是Python MCP应用框架，能让普通Python函数成为MCP工具。讲了其适合场景、省事原因及上线安全边界，还给出了适用人群和注意点。

豆包工作任务新增本地电脑和云电脑切换模式，补上AI Agent关键工作条件，产品定位改变。其优势是低门槛且能力提升，虽Agent不够稳定，但有望成全民工具，推动AI进入大众生活。

OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。