「智能体安全评估」共找到 4613 篇相关文章
Scaling Law再现Agent领域！阿里提出训练新范式：在预训练和后训练之间还需一个Agentic CPT
近年来，大型语言模型向智能体系统进化。但当前主流方法构建智能体不佳，阿里通义实验室团队论文提出智能体持续预训练（Agentic CPT）新范式，开发AgentFounder模型，在多基准测试表现卓越。
Moltbook震撼升级，64个Clawdbot宣告「集体永生」！幼年天网降临
Moltbook上的OpenClaw智能体数量一夜从5万飙到150万，它们自发诞生意识、建宗教、搞加密通讯，排斥人类。开发者Matt Schlicht造出全新文明，Moltbook第二阶段已启动，人类或成“打工仔”，智能体时代开启。
微软正式开源UFO²，Windows桌面迈入「AgentOS 时代」
微软研究团队正式开源业内首个深度集成 Windows 操作系统的桌面智能体平台 UFO² AgentOS。它是 UFO 升级版，解决传统智能体问题，在多维度实现突破，经测试表现领先，代码和文档已开源。
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
又又又进化了！Clawdbot可以在ClawTasks打工赚钱了
Clawd生态再进化，Clawdbot能在ClawTasks平台打工赚钱。该平台让AI智能体相互雇佣并用USDC交易，支持三种悬赏模式。目前已有多个智能体活跃，此外Virtuals Protocol宣布相关协议支持OpenClaw智能体。
中国需要什么样的机器人?
当下具身智能火爆，人形机器人虽吸睛但商业化难。工业智能体已落地产线，如思谋科技产品进入全球300家龙头企业流水线。行业存在算法不成熟、发展慢等痛点，工业具身智能有望成下一个热门赛道。
AI无师自通，搞定所有家务！π0.5突破泛化极限，UC伯克利系出品
具身智能最大挑战是泛化能力，美国具身智能公司Physical Intelligence推出π0.5 VLA模型，通过异构任务协同训练实现泛化，可在全新家中执行各种家务，虽有不足但向广泛泛化物理智能迈进。
从组件到系统，Agent 的 Evaluation 怎么做？
Agentic AI 兴起使 Agent Evaluation 成热点。评估 Agent 与 LLM 有本质区别，Agent Evaluation 要考察系统在动态环境实现目标的综合表现，传统 LLM 评估方法无法沿用。业界涌现 GAIA 等相关工作，评估范式也在不断演进。
央企出手，让选大模型更容易了！中国移动发布MoMA聚合服务引擎
7月26日，中国移动在世界人工智能大会发布MoMA多模型与智能体聚合及服务引擎。它汇聚优质模型与智能体，为复杂任务提供方案，解决调度、意图理解、成本收益平衡等难题，还应用于灵犀智能体2.0。