搜索：智能体安全评估

「智能体安全评估」共找到 4624 篇相关文章

小扎“亿元俱乐部”车门焊死！被曝冻结招聘，禁止内部人员流动

Meta超级智能实验室被曝冻结招聘，禁止员工跨团队调动。此前Meta大举招人，现因新老员工矛盾、AI部门重组及市场对“AI泡沫”担忧等因素调整战略，虽AI投资有收益，但仍需评估。

本文作者作为Mac老用户，为体验昆仑天工研发的Skywork桌面Agent，找来旧Windows电脑测试。该产品定位是接管电脑工作世界，解决办公任务处理和安全隐私问题，还介绍了其功能和使用效果。

OpenAI官宣下一代旗舰模型GPT - 6 Astra，定义其为「世界上最智能、对齐程度最高」的模型。它多项基准测试成绩惊人，在编程、计算机使用等多领域表现卓越，还改写科研纪录，不过因安全能力强暂未全开放。

OpenAI发布GPT - 5.5，定位为‘为真实工作而生的新一代智能’。它在编码、科研、办公等多领域表现出色，能力重心转向‘自主完成任务’，在多项评估中成绩优异，还能加速生物医学研究，且Token效率大幅提升。

ContextBench首次从「过程」评测代码智能体，揭示当前模型多读少用、被关键词误导等深层问题。它基于真实问题修复任务，由专家标注「黄金上下文」，用多指标评估。研究显示，复杂架构未必效果好，模型重召回轻精确等。

2026年全球AI产业迈入新阶段，开源生态影响力成关键。4月17日CSDN联合多家机构发布《2026大模型技术体系综合开源影响力榜单》，从四大维度、53项细分指标评估，呈现开源生态地图，助力中国AI开源跨越。

OpenAI发布ChatGPT Agent，它是统一智能代理系统，融合多种功能与工具，能动态选处理路径。在多测试中表现佳，采用强化学习微调新架构。使用体验似与人协作，OpenAI采取安全措施，还探索商业、分批开放，业内看法不一。

Anthropic论文登上Nature，揭示AI模型仅通过纯数字序列就能继承另一模型的危险偏好。研究表明，即使删掉敏感词，隐性信号仍能传递，且代码和推理链也是传染通道，这对AI安全评估提出新挑战。

上个月底智谱开源 GLM-4.5 及轻量版，成绩亮眼引热议。现其技术报告发布，详述预训练到后训练细节，还介绍了开源 RL 框架 slime，展示模型架构、训练阶段等，评估了在多任务上的表现。

阿里Qwen3迎来一大波更新，涵盖多个模型。如Qwen3-Max在代码与智能体表现卓越；Qwen3-VL是强大视觉语言模型；Qwen3-Omni是全模态模型；还有图像编辑、同传、安全防护等模型及旅行规划师等应用。