「安全缺陷」共找到 1136 篇相关文章
让大模型指哪打哪的Multi-Agent路由新范式
随着MCP生态兴起，一个Assistant背后可能挂数百工具/子Agent，传统检索方式有成本高、埋没工具等问题。作者提出Tool-to-Agent Retrieval新范式，实验显示指标全面提升，证明工具细节能补足语义。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
告别无效计算！新TTS框架拯救19%被埋没答案，推理准确率飙升
现有TTS方法存在路径同质化和中间结果利用不足问题。华为诺亚方舟实验室等机构提出SRCA框架，含检查点注入、答案聚类搜索和检查点候选增强组件，实验显示能提升推理准确性、效率，降低成本。
奥特曼爆冷改口：AGI没用？MIT预测2028年降临，50%概率
我们越来越接近AGI，时间表从50年缩到5年，大佬预测2026、2028年降临。但AI在ARC测试得分0%，人类基本能力似新手。算力战已打响，AGI或需架构革命和技术集体转向。
刚刚，马斯克 xAI 联合创始人离职
xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。
ICML 2025 | 清华、上海AI Lab提出专家级医学基准MedXpertQA，看o3、R1哪家强
本文由清华和上海AI Lab学者撰写，提出专家级医学基准MedXpertQA。现有医学基准难度和临床相关性不足，而MedXpertQA极具挑战、临床相关性高，构建严格，评测显示前沿模型在医学领域提升空间大。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
103K「硬核」题，让大模型突破数学推理瓶颈
现有大语言模型在数学推理训练时面临数据瓶颈，腾讯AI Lab与上海交大团队推出DeepMath - 103K数据集。它规模大、难度高、数据新颖、严格去污染，让DeepMath系列模型达SOTA，还能实现推理泛化。
让AI自动化控制电脑的一切操作automation-mcp
自动化 MCP 是模型上下文协议服务器，为AI提供完整 macOS 桌面自动化能力，如控制鼠标、输入指令等。文章介绍了安装、使用工具、架构、安全权限、集成示例等内容。
MCP 火爆半年后，是时候对它“祛魅”了
2024 年 11 月 25 日，Anthropic 发布的 MCP 协议意义重大，解决了 AI 模型与工具、数据源集成的碎片化问题。文章深入探讨其架构、价值、影响及趋势，还采访专家解答相关疑问。