新闻资讯8

大语言模型+编程智能体=安全噩梦

宝玉AI2025-08-19

AI 摘要

Gary Marcus 和 Nathan Hamiel指出，大语言模型与编程智能体结合带来安全噩梦。攻击者利用公共资源实施水坑攻击，强大智能体普及但易造成漏洞，虽有防御措施但难以杜绝风险。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

吴恩达：发布AI工程技能地图

吴恩达团队综合整理AI工程技能地图，助开发者确定学习方向和雇主招聘。四项重要技能为构建和部署AI应用、软件工程基础、使用编程智能体、塑造构建，背后需持续学习心态。

牛津大学和新加坡国立大学研究团队提出心智世界建模（MWM）通用框架，将心智变量纳入世界状态。还实现基准系统 MENTIS 验证其有效性，实验表明 MWM 对预测人类决策必要，瓶颈是状态转移模拟能力不足。

周三晚间，DeepSeek 突然发布 V4 Pro 大语言模型正式版，命名为 DeepSeek - V4 - Pro - 0813，官方未调升 API 使用价格。有用户称调用的 V4 Pro 思维链风格有变，跑分显示其 Agent 评测表现可媲美顶级模型，还撞车了马斯克的 Grok 4.6。

一篇前沿大模型安全漏洞论文引发热议，指出各大模型 API 设计缺陷，可提取隐藏思维链。同一模型家族安全能力不对称，攻击者可利用此漏洞，还介绍了攻击路径、实验及修复建议。