「供应链风险」共找到 822 篇相关文章
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
思维链推理是一种脆弱的‘海市蜃楼’，一旦超出训练分布，它便会消失。| 直播预约
思维链提示能提升LLM在多任务上的表现，让人感觉模型在深思熟虑。但研究从数据分布角度剖析，发现思维链推理是脆弱的‘海市蜃楼’，超出训练分布就会消失，强调实现通用推理能力挑战大。
你的AI“体检”了吗？开源AI红队测试平台，一键自查三大风险
AI圈一边是顶尖模型发布，一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台，能模拟真实攻击对AI产品全方位风险扫描，有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。
AI生成内容如何确权？全国首部区块链知识产权存证标准启动编制，欢迎参与起草！
区块链存证技术能解决知识产权确权、举证、维权难题，但实践中存证流程不规范等问题凸显。全国首部《基于区块链的知识产权存证管理规范》团体标准立项，正征集起草单位和起草人，可解决企业核心困境。
MCU、储存、SiC、传感器、MLCC……国产汽车“硬核芯”全景突围
在国产汽车产业带动下，国产汽车芯片迈入新阶段。传统领域国内企业打入主流供应链，前沿赛道与国际巨头竞技。芯驰、芯擎等企业崭露头角，产业链协同推动供应链自主，芯师爷评选展现行业成果与潜力。
硅谷亲手砸掉自己饭碗？930万岗位正进入AI风险区
Tufts大学发布全美首个「AI就业风险指数」，显示未来2 - 5年，美国约930万个岗位面临被AI替代风险，硅谷等科技重镇首当其冲。高技能、知识密集型职业风险高，而低薪职业相对安全。
Andrej Karpathy：AI Agent有风险，使用需谨慎
前特斯拉AI总监Andrej Karpathy警告，AI Agent像早期计算机时代的“狂野西部”，存在安全漏洞。Simon Willison指出“致命三要素”会让AI Agent成定时炸弹，供应商难防混合工具风险，防护措施也不全面。
AI 的“思维链”推理是海市蜃楼吗？
亚利桑那州立大学论文《大语言模型的思维链推理是海市蜃楼吗？》认为思维链推理在数据分布偏移时易出错，可能只是对训练数据模式的记忆。作者 Sean Goedecke 认为该论文结论不合理，从推理与语言、模型规模等方面提出反对意见。
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
警惕！“养龙虾”风险，一键给你的Openclaw做安全体检
OpenClaw在短时间内登顶GitHub开源榜首，国内企业纷纷部署。但它存在安全隐患，如漏洞、隐私风险等。朱雀实验室联合腾讯云EdgeOne推出「OpenClaw安全体检」功能，可自动完成全面体检与风险评估。