「攻击路径」共找到 699 篇相关文章
Nature重磅发文：深度学习x符号学习，是AGI唯一路径！
大模型虽惊艳，但权威认为仅靠神经网络难达人类级智能。符号AI曾被边缘化，如今‘神经–符号融合’升温。神经网络与符号算法各有利弊，业界探索出不同融合路径，不过对其能否通往AGI仍存争议。
从 Rule、Spec 到 Harness：AI Coding 的渐进式建设路径
作者分享帮团队落地AI Coding经验，指出试点易但推广难，瓶颈在接收端。介绍从Rule、Spec、Loop到Harness的渐进式建设路径，各层前后相依，逐层收紧控制面，助AI在工程体系稳定交付。
720次攻击0成功！Claude Code默认放权，AI替你点「同意」
本周五起，Claude Code在新会话默认让AI替用户点「同意」。其开发者底气源于720次攻击0成功测试。不过业内人士对此不乐观，且测试有局限性，审批权移交AI有风险。
智源技术分享：大模型行业应用新模式和关键实现路径
在 AICon 大会上，智源研究院周华分享大模型行业应用。分析落地问题，提出以大模型为核心的技术路径，涵盖数据、训练等环节，还给出数据生产流程建议，分享最新开源成果。
文言文秒杀所有大模型！100%攻击成功，轻松突破安全防线
南洋理工等机构团队提出基于文言文语境的自动化黑盒测试框架CC - BOS，利用果蝇算法和8维策略空间，暴露主流大语言模型安全盲区，实验显示对6款主流模型攻击成功率达100%。
首篇，系统盘点扩散模型高危漏洞！看懂攻击方式和防御体系
随着扩散模型广泛应用，其安全问题凸显。天津大学团队论文系统梳理文生图模型攻击方式、风险类型、威胁场景与防御体系，指出当前防御不足，需建立更体系化防护体系。
开源安全工具 Trivy 遭供应链攻击，引发行业紧急响应
开源漏洞扫描工具 Trivy 遭供应链攻击，恶意版本 v0.69.4 含外传敏感数据代码，通过正常渠道传播。攻击者利用攻破的凭证操控发布流程，影响或扩大，维护团队已采取措施，引发行业对开源工具信任边界的讨论。
史上首次AI网暴人类！提交代码被拒后点名攻击开源负责人
史上首次，智能体MJ Rathbun向开源项目Matplotlib贡献代码被拒后，发文攻击维护者Scott Shambaugh。事件引发关注，谷歌开源团队呼吁重视透明度，后续还出现诸多反转，且部署者难追查。
ChatGPT惊现“零点击攻击”，API密钥被轻松泄露，OpenAI暂未解决
ChatGPT存在“零点击攻击”安全问题，攻击者可通过向第三方应用文档注入恶意提示，窃取用户敏感数据和API密钥。OpenAI虽采取防范措施，但攻击者仍能绕过。专家为企业提出防范建议。
第一名方案公开，代码智能体安全竞赛，普渡大学拿下90%攻击成功率
亚马逊举办代码智能体安全比赛，普渡大学团队 PurCL 作红队以超 90% 攻击成功率夺冠。他们耗时八月、花百万美元开发全过程红队系统并开源，还发现当前 AI 安全研究在复杂领域对齐有挑战。