「辐射防护」共找到 83 篇相关文章
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
从 Coding 到 Agent：QCon 北京 2026 全景复盘，优秀出品人 & 明星讲师名单揭晓
4月16 - 18日QCon全球软件开发大会·北京站（2026）圆满举办，超2000人参与。多位技术领袖围绕AI与工程实践分享见解，大会还设25大专题。最后揭晓17位优秀出品人和29位明星讲师。
阿里“悟空”上线！钉钉给企业送来龙虾大军
AI钉钉2.0年度新品发布会上，阿里发布AI toB旗舰应用“悟空WuKong”，它以企业智能体为核心，能落地办公场景。悟空开启全球邀测，也会内置到钉钉AI 2.0。它还带来行业解决方案，补齐安全短板。
人类已成少数派！DeepMind 研究科学家：广告没人看了，互联网上AI的流量已经超过了真人
Google DeepMind高级研究科学家Nenad Tomašev预测，未来世界主要网民将是智能体。他指出智能体虽能自动化工作，但存在安全风险，如认知单一化、网络陷阱等，还探讨了协作模式、安全防护及未来形态。
Claude能直接操控你的电脑微信了，这才是真正的上位小龙虾。
Claude新发更新，可通过Computer use纯视觉方案操控电脑，还更新了远程操控Dispatch。这俩功能组合让Claude能操控微信等本地软件，使用简单，且权限管控和防护较好，更新速度快，领先同类产品。
DeepSeek-R1全升级V2版：Token成本低至原来30%
DeepSeek - R1 V2版全维度升级，训练框架从‘单一RL’到‘多阶段协同优化’，推理能力从‘能推理’到‘会优化推理’，还提升了安全可控性，适配生态，推出轻量级模型。
Java 30周年献礼：新LTS版本Java 25，服务器内存砍掉22%，AI开发起飞
2025年9月16日，Oracle推出Java 25，这是继JDK 21后首个LTS版本，官方提供八年支持。它含18个JDK增强提案，目标是优化AI运行、安全防护等，在省内存、提速度、简语法等方面均有显著改进。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
AI低质代码泛滥、API经济盛行，老牌科技厂商 F5 如何应对大模型应用“后遗症”？
F5亚太区CTO Mohan Veloo指出AI编程工具带来安全、低质代码、‘黑盒子’等问题。F5调查显示企业业务AI驱动下，安全成挑战。F5推出ADSP平台应对，还发布AI Gateway、AI助手等产品。