搜索：智能体安全评估

「智能体安全评估」共找到 4613 篇相关文章

开源“裸考”真实世界，国产具身智能基座模型拿下全球第二！

国产具身智能基座模型WALL - OSS在RoboChallenge真机评测榜单获全球第二，多个单任务排第一。它是开源模型，开源程度彻底。还介绍其技术突破及团队情况，强调开源对具身智能发展意义重大。

目前，具身智能发展的讨论多聚焦模型和数据，而本体易被忽视。灵御智能凭借高性能本体在‘申智杯’夺冠，其灵御TA2机器人受关注。文章从多维度剖析本体重要性，并介绍了灵御TA2的优势。

Firecrawl 开源 PDF 智能分类与文本提取库 pdf-inspector，已获超 1.4 万人标星。它能智能分类、感知提取、转 Markdown 及按需路由，性能炸裂，分类快，多项指标领先，还支持多平台。

阿里通义实验室推出 GUI 智能体模型家族 MAI - UI，覆盖多种规模。针对当前 GUI 智能体问题，采用统一方案让模型更强。在多项任务中刷新行业成绩，有性能提升与隐私保护双收益。

文章探讨了大语言模型驱动的AI智能体的五种任务规划与执行模式，包括ReAct、Plan-and-Execute、静态Workflow、Workflow+局部智能、模块化的分层规划，分析其优缺点、适用场景，还给出优化方法。

随着AI发展，企业探索用其优化产品开发流程。文章介绍PRD和系分智能体落地进展，目标提升产研效率、规范文档管理，阐述技术方案、能力展示，也指出RAG链路等方面挑战及后续研究方向。

南洋理工大学MMLab团队提出框架GUI - Reflection，让端到端多模态GUI智能体有“自我反思”能力。它在各训练阶段引入“反思与纠错”机制，实验证明该框架能提升智能体能力。

快手内容安全团队负责人王东旭在AICon大会拆解“人机协同”破解内容安全“不可能三角”。他提出组织从“固态”转向“液态”，构建“AI合成旅”，还阐述产运研等岗位职能跃迁及协同模式升级，强调速度是护城河。

南洋理工和清华团队提出新框架AudioTrust，将ALLMs评估扩至六个核心维度，探究音频模态特有问题。目前基准及平台已开发，揭示了开源与闭源ALLMs在多维度的潜在风险。

智能体时代算力需求庞大，LightSeek Foundation 小团队 2 个月打造大模型推理引擎 TokenSpeed，有 TensorRT LLM 性能、vLLM 易用性，受英伟达力荐且已开源，为智能体负载提供近「光速级」推理能力。