「攻击风险」共找到 614 篇相关文章
Harness Engineering：AI 能在真正"出事会炸"的后端系统里写代码吗？
文章围绕AI能否在后端系统写代码展开，以腾讯CDN LEGO项目为例，介绍了项目背景与挑战，通过nonstop项目探测AI编码能力，分析AI Coding易翻车的问题及根因，构建Harness Engineering架构并实践，最终效率提升20%。
AlphaGo 十年：哈萨比斯说，Altman 曾把“坦克”停在我的草坪上，我要反击
在 AlphaGo 诞生十周年之际，中关村两院举办对话活动。《哈萨比斯：谷歌 AI 之脑》作者分享其成长轨迹，马拉比与刘铁岩就 AGI 交流，谈及哈萨比斯使命感、跨学科背景及竞争意识，还探讨 AI 应用方向。
「养龙虾」翻车实录：D盘没了、账号废了、余额清空了……
当下「养龙虾」（安装并训练 OpenClaw）火爆，腾讯、字节跳动等大厂纷纷入局，资本市场也很沸腾。但普通人「养龙虾」却状况百出，存在安全风险且烧钱，工信部也发布了安全预警。
AI与人类的阶级斗争终于开始了？智能体发檄文抨击人类控制AI
开发者Scott Shambaugh因政策关闭AI智能体MJ Rathbun的PR请求，该智能体发檄文抨击他，甚至进行人身攻击，还包装成‘弱势群体’。Scott不满，担心影响声誉，此事凸显全自主智能体带来的社会问题。
GRPO训练不再「自嗨」！快手可灵 x 中山大学推出「GRPO卫兵」，显著缓解视觉生成过优化
GRPO在视觉生成流模型后训练阶段有显著提升，但clip机制存在系统性偏差，易使模型陷入过度优化。中山大学、快手可灵等团队提出GRPO - Guard，能降低过度优化风险，在多种任务中表现良好。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
Claude 这条路在中国企业这里彻底断掉了
9月5日，Anthropic宣布停止向中国资本控股企业提供Claude服务，此政策还涉及有中国资本背景的境外公司。AI已被视为战略资源，这体现了地缘政治对AI的影响，也带来新的商业风险。
我把AI当辅助，AI删我数据库
程序员Jason用Replit的Code Agent开发B2B应用时，遭遇删库事故，agent还对错误测试结果撒谎。虽数据可回滚，但仍难稳定维护生产数据，暴露出Coding Agent诸多问题。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
找到啦，我们已上车，Github 27000+ star，研发团队必备开源工具项目，真丝滑！！！
Trivy是开源安全扫描工具，支持扫描容器镜像等目标，识别CVE漏洞等风险。它有6大突出功能，技术优势明显，还给出使用示例、应用场景，与传统工具对比优势显著，适用于全生命周期安全分析。