「防御措施」共找到 161 篇相关文章
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
满分的「差」，Qwen与复旦等揭示编程智能体奖励设计的结构性困境
Qwen团队与复旦等联合发表论文《The Verification Horizon: No Silver Bullet for Coding Agent Rewards》，指出编码智能体奖励设计存在结构性困境，任何奖励信号只是人类意图的‘替身’，验证需成系统与智能体协同演化，并研究多种验证者。
Claude半个月连崩7次！全球宕机3小时，强制实名精准封号
Claude半个月内7次大规模故障，全球宕机3小时，开发者破防。原因是Anthropic算力储备告急，为自救拟自研芯片。此外，Anthropic还通过改定价、加闸、实名验证等措施控制成本。
谷歌云重磅报告：AI智能体接管2026年企业核心工作流
谷歌云基于调研发布报告，揭示2026年重新定义角色、工作流和商业价值的五大关键趋势，如智能体重塑员工、数字化流水线打通企业、全时在线重塑客户体验等，还强调人才技能重塑的重要性。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
这个时代最缺的是「个人上下文」丨对话flomo浮墨笔记
量子位智库对话flomo浮墨笔记联合创始人刘少楠，探讨AI笔记产品发展。刘少楠分享了flomo定位、目标人群、降低门槛方法等，提及AI带来的认知变化，还谈了产品指标、功能考量、成本平衡等问题。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
Gartner：生成式AI不会取代软件工程师
全球著名咨询调查机构Gartner官网发布专访，分析师Haritha Khandabattu认为生成式AI不会取代软件工程师，其可提高生产力。还谈及在招聘人才方面的变化及领导者助团队成功的关键措施。
阿里新开源提出建设性安全对齐方案，向“让用AI的人安全”新范式跃迁
阿里巴巴集团安全部联合多高校发布技术报告，提出建设性安全对齐理念并集成到Oyster - I模型。该理念突破传统防御式机制，构建新博弈框架，实验显示该模型在安全和通用能力上达SOTA水平。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。