「攻击测试」共找到 1910 篇相关文章
推理路径的动态调控：让大模型学会“恰到好处”的思考
当前大模型推理路径存在冗余问题，本文提出测试时提示干预框架PI（π），通过《When/How/Which》三模块协同，将人类专家经验融入推理过程，在多个STEM基准测试中缩减推理步骤、提升准确率。
GPT-5超越人类医生！推理能力比专家高出24%，理解力强29%
最新研究显示，GPT - 5在医疗领域处理多模态信息能力出色，在多模态测试中推理和理解得分比GPT - 4o分别提高近30%和36%，比人类医生还高。其能力提升源于端到端多模态架构，但现实应用还需更多实战考验。
震荡股市中的AI交易员：DeepSeek从从容容游刃有余? 港大开源一周8k星标走红
2025年10月美股震荡，港大黄超教授团队开源AI-Trader项目启动实盘测试，上线一周在GitHub获近8K星标。6位AI交易员投入纳斯达克100交易，实验测试其交易纪律、市场耐心和信息过滤能力。
ICML 2025 Spotlight | 多模态大模型暴露短板？EMMA基准深度揭秘多模态推理能力
最新研究推出 EMMA 基准测试，揭示顶尖多模态大语言模型在深度视觉与文本融合的复杂多模态推理上显著不足。该研究已被 ICML 2025 接收，代码数据开源。实验表明，现有模型与人类专家差距大，视觉推理是核心瓶颈。
基于 AI 的机器人攻陷微软、DataDog 和 CNCF 项目中的 GitHub Actions 工作流
近期，一个基于AI的机器人利用GitHub Actions工作流，在2026年2月21 - 28日对微软、DataDog等项目发起攻击，成功在多个代码库实现远程代码执行并窃取凭证，还出现AI对AI攻击，组织需加强安全审计。
The Batch: 864 | GLM-4.5：一款开放的智能体竞争者
大型语言模型推动智能体能力交互竞赛正酣，中国 Z.ai 推出 GLM - 4.5 系列开源权重模型，在推理、编程等基准测试中表现出色，还介绍了其工作原理、研究和测试结果等。
国产模型新盛况！王座易主：Kimi K2 Thinking开源超闭源
月之暗面开源 Kimi K2 Thinking 模型，多方面性能超 GPT - 5 等闭源模型。它擅长多轮调用工具和持续思考，在多项基准测试达 SOTA 水平，成本低且授权宽松，引发全网讨论。
机器人伸手时，杯子被挪走了：LIBERO-MAX用22.4万次仿真检验动态可靠性
本文介绍了斯坦福等多校研究者提出的机器人评测基准LIBERO-MAX，针对机器人执行任务中途环境变化的痛点，设计配对测试方案，经大规模仿真评测现有模型性能，为机器人动态鲁棒性改进提供标准化测试平台。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
进攻是最好的防守：超级平台为何「不得不」对AI智能体出手？
上海交通大学团队提出，超级平台“必须”攻击AI智能体，以守住其作为数字流量守门人的地位。研究从守门人理论分析反击原因，还阐述平台应对策略、攻击策略特点约束，最后强调要推动建设性技术治理生态。