「智能体安全」共找到 4176 篇相关文章
0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。
真钱买假模型？187篇论文被「套壳API」坑惨，准确率暴跌
CISPA论文指出，第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务，发现已被187篇论文引用。测试显示，影子API在多领域性能差，安全不可控，供应商有三种欺骗手段。
被Anthropic强制改名！Clawdbot 创始人一人开发、100% AI 写代码，腾讯又跟上了热度
个人AI助手ClawdBot席卷硅谷，后被Anthropic强制改名Moltbot。它由Peter Steinberger一人开发，近乎100%用AI写代码。该项目已开源，有诸多亮点，但也存在安全隐患，网友使用场景多样。
硅基公司裁员二三事
作者回顾2017年入职硅基智能（当时叫南京必拓狮）的经历，讲述公司转型AI赛道的过程、产品开发情况，以及老板司马华鹏的想法和管理方式，还总结了创业应注意的教训。
OpenAI 离职员工爆料公司压力巨大发展速度惊人
前OpenAI员工Calvin回顾工作经历，称其发展极快、压力大。公司依赖Slack沟通，自下而上创新，重能力而非政治。还提到技术栈、安全关注重点等，认为OpenAI、Anthropic和Google是AGI赛道主力。
Mira Murati新公司获20亿美元融资，估值100亿美元
金融时报消息，前OpenAI首席技术官Mira Murati创立的AI公司“Thinking Machines Lab”获20亿美元种子轮融资，估值100亿美元。公司致力于开发人工通用智能，目前对产品和技术细节高度保密。
这 5 个 DeepSeek 开源项目，最近夯爆了！
几天前，DeepSeek发布开源智能体框架`DeepSeek Harness`，热度极高。围绕它社区长出丰富高星项目，本文整理了5个，如核心项目`DeepSeek Harness`、桌面客户端、Web UI插件、终端交互插件及插件导航手册。
OpenAI搬空Claude Code！用户家当一键进Codex，唯独带不走Claude
AI编程大战中，OpenAI盯上对手用户的配置、技能等“家当”。8月11日其统一外部智能体导入说明，可将Claude Code等工具配置等搬入Codex，但只能进不能出，且部分内容无法迁移。
DeepSeek陈德里开发自动研究Skill，写一篇论文人类只动脑2小时
DeepSeek研究员陈德里用自己开发的技能DeliAutoResearch等完成研究综述论文。论文提出自动研究智能体L1–L5自主度分类体系，对比四大架构模式，分析17个主流系统，还提出六大开放问题。
画数独、烧蜡烛都不翻车了？浙大&阿里让AI先三思再下笔｜ACL 2026
当下视觉生成中，开源模型在逻辑推理生成任务上频频翻车，与闭源模型有差距。浙大与阿里团队提出Unified Thinker，将思考与执行解耦，构建数据集、采用创新算法，实验显示其有效提升逻辑执行准确度。