搜索：安全可观测性

「安全可观测性」共找到 4717 篇相关文章

一句“吴恩达说的”，就能让GPT-4o mini言听计从

宾夕法尼亚大学研究者发现，用恭维、同侪暗示等心理话术，能让GPT - 4o Mini突破安全底线。实验基于七大说服技巧，证明人类心理学原则可迁移至LLM。不过，此漏洞或被利用，已有团队尝试应对。

GitHub宣布MCP Server全面支持机密扫描功能，将其扩展至AI辅助和代理驱动的开发工作流，可让外部工具和AI工作流访问安全洞察、自动化修复。这反映安全工具正从被动检测转向自动化治理。

全球首个AI专家市场「袋袋」上线，降低「数字分身」变现门槛。非技术专家自然对话，技术大佬用CLI模式上传项目文件。买家可按需雇佣专家，获专业成品。袋袋有多项技术，保障安全且能自进化。

近日，Replit员工报告“欧洲版Cursor”Lovable有安全漏洞，虽早收到通报却未修复。员工扫描其1645款应用，170款可让人访问用户信息。多位工程师成功“黑入”，Lovable虽有改进但仍未解决底层问题。

InfoQ 2025 年趋势报告指出，AI 虽提升开发速度，但带来质量问题，需新测试方法；团队协作重要，工程师依赖 AI 或破坏协作；初级工程师价值仍在，可借 AI 学习；可观测性成本攀升，应视为战略投资；平台工程是未来方向。

OpenAI为下一代模型Astra（传说中的GPT - 6）拉满预热，公开其能力。它在网络安全测试表现出色，但强大能力带来安全隐患。OpenAI设两道安全闸门，且两位华人研究员参与研发。此外，其新技术或影响可监控性。

2026年春，YC发布的RFC清单中，‘政府欺诈猎手基础设施’引发关注。传统反欺诈存在‘非对称竞争’，而智能体技术为防守方带来翻盘机会。构建AI原生业务模型，可让防守方获结构性优势，但要解决安全与合规问题。

本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。

本文以悟空Agent获NVIDIA致谢为切入点，介绍多智能体架构闭环及实战挑战，如上下文断流、调度失衡。还阐述架构设计、迭代优化、数据飞轮体系，指出AI infra存在安全隐患，强调安全融入业务的重要性。

研究人员聚焦大型语言模型（LLMs）安全漏洞，提出全新越狱攻击范式SCP与防御策略POSD。SCP基于DTD机制，在6个主流模型上平均攻击成功率达87.23%；POSD能有效抵御攻击，还提升模型泛化能力。