搜索：认知安全 - AI Reading Hub

「认知安全」共找到 1194 篇相关文章

LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉

目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。

xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。

本文指出反思技术虽简单有效，但在多种LLMs和任务中会失败。清华团队剖析其在开源和闭源LLMs、四种任务上失败原因，提出轻量级缓解方案，为反思技术可解释性研究奠基。

研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。

自动化 MCP 是模型上下文协议服务器，为AI提供完整 macOS 桌面自动化能力，如控制鼠标、输入指令等。文章介绍了安装、使用工具、架构、安全权限、集成示例等内容。

2024 年 11 月 25 日，Anthropic 发布的 MCP 协议意义重大，解决了 AI 模型与工具、数据源集成的碎片化问题。文章深入探讨其架构、价值、影响及趋势，还采访专家解答相关疑问。

深圳市大数据研究院、香港中文大学（深圳）研究团队，结合强化学习与组合优化技术，发掘新算法 RXTX，让 XX^T 运算减少 5% 运算量，成果在国际引发关注，不过产业化落地仍面临挑战。

2025年，维苏威挑战赛有历史性突破，研究人员首次非侵入性读取仍卷着的赫库兰尼姆古卷标题。该成果获60000美元首标题奖，解读内容或重塑学界对相关作品结构的理解。

今天凌晨，OpenAI 发布 GPT-6 Astra，公司称是多年研究成果。它在多项测试表现出色，编程、电脑操作等能力提升，还加强了安全措施。将面向部分用户及通过 API 和 AWS 推出。

Claude推出Claude for Small Business，能接入企业常用工具，自动处理常规业务。其操作丝滑、免费使用、安全合规，功能覆盖小企业主日常软件使用场景，定位低价，或颠覆SaaS市场。