「安全监控员」共找到 1162 篇相关文章
Teleport 报告：AI 安全事件频出，背后往往是过度授权
Teleport报告指出，为AI系统授予过度访问权限的企业，安全事件发生率是权限管控合规企业的4.5倍。身份管理体系建设跟不上AI落地速度，精细化权限授予是关键，还给出搭建统一身份层等建议。
从0到1搭建生产级Agentic AI系统：踩坑心得
作者拆解GitHub上生产级Agentic AI系统项目，指出生产级AI系统要把‘稳定性’‘容错性’‘可运维性’融入代码。介绍了项目在环境配置、LLM调用容错、日志监控等方面的设计，还给出工程化落地避坑指南。
AI教父Hinton末日警告！你必须失业，AI万亿泡沫豪赌才能「赢」
AI教父Hinton警告，这场AI万亿美元豪赌，只有裁员才能盈利。他指出超级智能AI将取代人类、引发失业，还批评部分巨头重商业竞争轻安全。此外，分析显示AI重创部分创意执行工作，不同岗位受影响程度有别。
本周推荐的6个超级6的Github开源项目！
本文推荐6个GitHub开源项目。如WeClone用微信记录定制数字分身、支持语音克隆；Windmill将脚本转工作流和UI；Zed是高性能Rust代码编辑器；webfunny_monitor监控前端性能；Rybbit分析网站流量；Lite XL是轻量级文本编辑器。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
Anthropic 完成930亿元 F 轮融资，投后估值达 13096亿
Anthropic 宣布完成由 ICONIQ 领投的 130 亿美元 F 轮融资，投后估值达 1830 亿美元。众多顶级投资机构参与，自推出 Claude 模型后增长飞速，业务覆盖多领域，资金将用于扩产、安全研究和国际化。
微信支付这波操作把我干懵了，Agent能赚钱？
微信支付从商业底层——支付——直接 mcp 了，用户可在腾讯元器体验其 mcp 服务，支付后智能体干活。微信支付 MCP 让 AI 与支付系统融合，实现“对话即交易”，但也面临安全合规问题。
Spring AI 实战｜Spring AI入门之DeepSeek调用
文章介绍Spring AI框架，它简化企业数据或API服务与大模型集成，降低开发复杂度。还给出调用DeepSeek的实战步骤，包括手动请求、代码自动发起、实现流式响应等，也提及OpenAI starter的兼容性及生产环境监控。
AI幻觉成WAIC首个关键词，Hinton敲响警钟，讯飞星火X1升级展示治理新突破
今年WAIC上，‘幻觉’成热议词。诺奖得主Hinton、郑南宁院士等指出AI幻觉问题制约其可靠性与实用性。OpenAI等联手研究CoT监测保障安全。讯飞星火X1升级版在幻觉治理等方面取得进步，为可信AI提供佐证。
监管叫停外资收购Manus背后，有一个被忽视的关键问题｜甲子光年
4月27日，国家发改委叫停外资收购Manus项目。该项目从2025年12月Meta宣布收购起备受关注。此次监管选择外商投资安全审查路径，预示AI时代监管侧重技术控制权，也可能加速VIE架构消亡。