搜索：智能体安全评估

「智能体安全评估」共找到 4624 篇相关文章

Claude官方击穿高薪、高学历的安全防线！Anthropic点名10大高危职业，但有群人暂时稳了

近日，Anthropic发布研究，描绘AI正替代哪些工作。其构建“实际暴露度”指标，基于Claude对话数据测得。研究列出10大“高危”职业，也指出部分工作不受影响，还揭示高暴露群体特征及青年招聘情况。

北京大学与BeingBeyond团队联合研发的BumbleBee系统，用创新的‘分治 - 精炼 - 融合’三级架构，实现人形机器人在多样化动作中的稳定控制，破解传统控制策略的‘专家困境’与‘现实鸿沟’。

北大团队提出ToolVQA数据集，用于提升基础模型工具使用能力。它含2.3万条样本，贴近真实需求。通过ToolEngine构建，涵盖多工具与任务领域。微调后模型表现佳，代码与模型已开源。

美国东北大学等机构研究者提出OPeRA数据集，采集真实用户在线购物行为，支持系统评测LLM个体化行为预测能力。实验显示当前主流LLM在模拟人类行为上表现有限，揭示其能力边界。

Hi3DEval团队推出面向3D内容生成的全新层次化自动评测体系Hi3DEval，设计对象级、部件级与材质主题三层评测协议，在HuggingFace发布首期3D生成榜单，涵盖30个主流与前沿模型。

近期马斯克参与近3小时对话，探讨太空数据中心、人形机器人等话题。他认为地面电力扩张难，太空是AI部署的经济选择，预计五年后太空AI量超地球。还指出未来公司形态是纯AI和机器人，中国制造业强且工作投入高。

文章围绕云小二Aivis项目，分析Agent不按预期输出的原因，从预期和技术层面展开。还总结十大优化经验，如清晰预期、精准投喂上下文等，为构建和调优Agent提供参考。

LowCode低码时代专访金现代轻骑兵低代码PaaS平台产品经理赵鹏程，探讨AI与低代码融合对软件工程范式革新和企业数字化转型的影响。介绍了低代码价值重估、应对新兴技术、企业实践、跨越工程化鸿沟路径、核心竞争力及未来展望等内容。

SIGGRAPH 2026论文AniGen，由VAST和香港大学研究，能从单张图片直接生成带骨架与蒙皮权重的可动画3D资产。它解决了现有方法的不足，在多方面表现出色，对多个领域意义重大。

吴恩达团队提出新版图灵测试界定 AGI，避免行业泡沫。在播客中他还谈及 AI 关键议题，指出 AGI 短期难实现，规模化非唯一路径，AI 不会大面积取代岗位，中美 AI 各有优势等。