「AI安全测试」共找到 11106 篇相关文章
o3绞尽脑汁仅答对40%的题目，开源模型基本乱猜？MMSI-Bench：多图空间智能试金石
文章介绍了MMSI - Bench，这是用于评估MLLM多图像空间推理能力的VQA基准。它人工构建样本、全面分类任务、采用多样真实数据。实验显示MLLM在多图像空间推理有短板，还开发自动化错误分析流程助力改进。
Sam Altman 最新文章：悄然而至的奇点，一场温和的革命
Sam Altman在《The Gentle Singularity》中指出，人工智能的“技术奇点”正以温和方式开启，是渐进过程。越过临界点后社会将巨变，解决“对齐”问题、确保技术普惠，人类将迎美好未来。
直播预约 | Evaluation论文分享@ICML&ACL2025
2025年6月11日20:00将直播分享Evaluation论文。多位嘉宾参与，涉及SyncPL奖励建模、文本事实一致性验证、大模型评测方法等多领域论文，涵盖模型优化、基准测试等内容。
Reasoning新突破：SoftCoT++如何让LLM‘多想几条路’？
LLM推理依赖‘思维链’，传统方法在离散token空间生成步骤有信息丢失、多样性不足问题。SoftCoT++在连续空间生成‘软思维’，拆分‘思考’与‘推理’，用专用初始token和对比学习，实验中全面超越传统方法。
继MCP、A2A协议之后，又一个Agent协议AG-UI来了
AI Agent交互协议不断演进，在MCP、A2A协议后，copilotkit发起AG - UI项目，构建开放、轻量级、基于事件的Agent - 用户交互标准化协议，侧重前端交互，已获部分框架兼容。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
DeepSeek-R1发布后的100天复现之旅方法总结
DeepSeek团队发布「推理大模型」DeepSeek-R1 ，其技术细节未完全开源，全球研究团队开启“复现竞赛”。论文总结100天复现经验，介绍推理大模型与普通大模型区别、复现方法、关键发现及未来方向。
太好啦，突出限制啦，7.4k Star WAHA～～～
本文介绍了获得7.4k Star的开源项目WAHA，它将多种WhatsApp社区引擎封装为统一的REST API与Webhook入口，支持灵活切换底层实现，降低业务接入成本，同时明确了项目的使用边界与规范。
EMNLP 2026 | 通过分解生成与动态自反馈，构建工具调用合成数据
本文是被EMNLP 2026主会录用的算法论文，针对现有工具调用合成数据「先生成再筛选」的缺陷，提出分阶段分解加动态自反馈的ToolLoop方法，有效提升合成数据质量，实验效果优于现有方案。
别再只卷Prompt 了，真正拉开Agent差距的是Context Engineering
本文梳理AI Agent从Prompt工程、ReAct范式到上下文工程的演进路径，系统讲解上下文工程核心原理、设计方法与落地方案，解决生产级Agent长任务质量退化痛点。