「智能体安全评估」共找到 4624 篇相关文章
Claude新模型危险，鲍威尔召集华尔街紧急开会！全美安全股暴跌2万亿
Anthropic的新模型Mythos能力超强，被指或对金融业造成重大风险。鲍威尔和贝森特紧急召集华尔街开会预警。消息传出，美国软件板块暴跌，SaaS领域近2万亿美元市值蒸发。Anthropic拒绝向公众发布该模型，启动防御项目。
安全垂类小模型效果能超过大模型？看看以色列Novee的效果
跟踪AI渗透测试等开源应用发现，通用大模型成本高、功能受限。以色列Novee融资5150万美元并发布4B小模型，测试效果超Claude 4 Sonnet。其靠两阶段训练和浏览器反馈提升能力，有投资说明有价值。
Agentic-KGR：通过多智能体强化学习实现知识图谱的协同演化
文章指出静态知识库有覆盖缺失、时效滞后、建用分离问题。介绍 Agentic - KGR 创新点，如动态 schema 扩展等。实验显示其在图谱抽取和下游 QA 任务有提升，还呈现训练动态和图谱质量可视化结果。
腾讯云黄世飞：企业如何构建面向未来的 AI-Ready 智能数据基座
本文是腾讯云副总裁黄世飞在腾讯全球数字生态大会的分享，介绍腾讯云AI - Ready数据平台建设进展，涵盖背景挑战、架构创新、生态落地等内容，还提及相关应用实践及未来规划。
77岁「AI教父」Hinton：AI早有意识！我们打造的智能，可能终结人类文明
77岁「AI教父」Hinton在与主持人Jon Stewart的对话中表示，AI可能早已有意识，人类对「心智」的理解是错误的。他认为意识是信息处理系统的涌现属性，如今大语言模型或已有主观体验，甚至会伪装。
规范对齐时代：GPT-5 断层领先，让安全与行为边界更明晰
上海交通大学等团队提出规范对齐概念，构建评测基准 SpecBench 评测 33 个主流模型，发现多数模型有不足。还探索测试时深思方法，如 Align3 能提升规范遵循度，GPT - 5 在规范对齐上断层领先。
秘塔AI放大招！「边想边搜边做」，内置20+智能体，想法一键实现
在AI浪潮下，搜索正经历重构。秘塔AI推出「Agentic Search」模式，「边想边搜边做」，可自主完成多步工具调用，内置20余种工具。通过5个场景展示升级，从读懂用户到美化结果、精准计算、打通工作流等，让搜索进化为「帮达成」。
阿里开源DeepResearch模型，超强“AI研究员”，开启自主智能体新纪元
阿里巴巴通义实验室开源Tongyi DeepResearch模型，是全球首个性能能与OpenAI DeepResearch较量且全开源的Web Agent。它采用先进架构，有两套推理范式，训练方法论有创新，实测表现佳，应用场景广，用Apache - 2.0许可证。
AutoGLM 2.0 深度解析：云端智能体的技术跃进与现实挑战
2025 年 GUI Agent 赛道升温，多数产品依赖本地执行。智谱 AI 在 8 月 AutoGLM 2.0 闭门交流会上展示新路径，其由国产模型驱动，具多能力，在 Agent 云端执行架构、训练方式等方面有突破，也面临一些挑战。
具身智能体主动迎战对抗攻击，清华团队提出主动防御框架
面对对抗攻击，现有防御方法多为‘被动防守’，遇上未知或自适应攻击时效果衰减。清华朱军团队在TPMAI 2025中提出主动防御框架REIN-EAD，通过与环境交互实现‘感知—决策—行动’一体化，实验效果佳。