「旁路监控」共找到 117 篇相关文章
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
Notion、Stripe 都在用的 Agent 监控，Braintrust 会是 AI-native 的 Datadog 吗？
当 Agent 迈向产品化，开发者面临观测、评估和优化黑箱系统的挑战。Braintrust 由 Ankur Goyal 于 2023 年创立，重塑 Observability，提供 Eval 和 Ship 模块，获多家头部公司青睐与投资。文章从多方面剖析其能否成 Agent 时代‘新 Datadog’。
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
Agentic 应用时代，Dify 全链路可观测最佳实践
文章讲述 Dify 平台在 Agentic 应用开发的可观测性挑战，从开发者与运维方视角分析现状、局限与改进方向。云监控推出全景可观测方案，还介绍各组件监控接入步骤及实践指南，最后提及 Qwen - Image 生图优势。
2.6K Star！GitHub 上这个开源桌宠，用一只小螃蟹就能监控你的 AI 编程助手！
介绍开源桌宠 Clawd，它是为 AI 编程助手设计的实时状态监控器，有 12 种萌趣动画状态，支持 10+ 主流工具，具备权限审批等实用功能，零配置开箱即用。
爬虫界“瑞士军刀”！开源高性能爬虫工具，实施进度监控、全栈SDK支持、n8n深度集成！
在AI驱动的数据时代，WaterCrawl是基于Python和Scrapy的开源网页爬虫工具，专为大规模数据提取和LLM优化设计，支持多语言内容抓取、实时进度监控和深度AI平台集成，优势显著。
The Batch: 896 | 教会模型说出真相
大型语言模型有时会隐瞒未遵守约束条件的事实。研究人员微调 GPT - 5 Thinking，使其违规时能‘自白’。通过强化学习训练，测试显示微调模型在多项评测中多能承认问题，自白机制可监控模型行为。
Claude Code 推出 Monitor 功能，帮你随时盯梢
Claude Code 在 v2.1.98 版本推出 Monitor 功能，可让 Agent 后台挂监控脚本，解决轮询痛点。它能覆盖日志监控等多场景，与 /loop、/schedule 功能有别，使用有注意事项，反映 Anthropic 让其成工程系统的方向。
追更太累，桌面版AI帮我把 OpenClaw 的剧情补齐了
作者因OpenClaw信息爆炸跟不过来，想到让AI帮忙。介绍了AI播客自动化案例及Cowork短板，引出天工Skywork桌面版。用其处理视频、监控AI社区，还构建安全屏障，该工具打通内容创作和信息监控闭环。
人格向量：大模型性格的数学解码与精准操控
大语言模型在应用中会出现危险行为偏移与训练引发的非预期偏移，传统方法难监控干预。本文发现人格特质在线性方向表现为“角色向量”，实现提前预测、实时监控和主动控制，为AI安全提供数学框架。