新闻资讯8

大语言模型+编程智能体=安全噩梦

宝玉AI2025-08-19

AI 摘要

Gary Marcus 和 Nathan Hamiel指出，大语言模型与编程智能体结合带来安全噩梦。攻击者利用公共资源实施水坑攻击，强大智能体普及但易造成漏洞，虽有防御措施但难以杜绝风险。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

人脑信号可引导大语言模型鲁棒推理

本文介绍发表于Nature Machine Intelligence的最新研究，系统探究语言模型与人脑推理表征的对应关系，验证人脑信号可引导提升语言模型推理鲁棒性，为脑启发AI提供了新研究路径。

当前大语言模型长期记忆方案均基于相似度检索，存在结构性盲区，无法在无字面/语义相似时召回关联记忆。腾讯团队提出T-Mem，实现AI联想回忆，已被EMNLP 2026接收，代码开源并上线QQ AI伙伴。

本文是DeeplearningAI《The Batch》的最新报道，汤森路透推出法律、新闻、金融领域定制大语言模型Thomson，基于Qwen构建，性能优于多款通用大模型，小版本将开源供非商业使用。

本文是对阿里新版Qoder的一手实测，新版Qoder从面向专业开发者的AI IDE，转型为面向全岗位的编程智能体工作台，支持自定义模型，探讨了AI Agent下半场的竞争方向。