「状态监控」共找到 284 篇相关文章
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
Agentic 应用时代，Dify 全链路可观测最佳实践
文章讲述 Dify 平台在 Agentic 应用开发的可观测性挑战，从开发者与运维方视角分析现状、局限与改进方向。云监控推出全景可观测方案，还介绍各组件监控接入步骤及实践指南，最后提及 Qwen - Image 生图优势。
爬虫界“瑞士军刀”！开源高性能爬虫工具，实施进度监控、全栈SDK支持、n8n深度集成！
在AI驱动的数据时代，WaterCrawl是基于Python和Scrapy的开源网页爬虫工具，专为大规模数据提取和LLM优化设计，支持多语言内容抓取、实时进度监控和深度AI平台集成，优势显著。
给Claude Code装个电表，这个开源的ESP32仪表盘火了
Clawdmeter是开源的基于ESP32的桌面小仪表盘，能监控Claude Code使用额度和会话状态。它通过电脑端daemon获取信息，用BLE蓝牙发送到ESP32屏幕显示，功能丰富，还像桌搭玩具。
生成的世界也能交互！牛津大学&莫纳什大学&布里斯托大学等团队提出交互式视频世界模型Oneira
本文介绍牛津、莫纳什、布里斯托等多校团队提出的交互式视频世界模型Oneira，解决现有模型交互错配、状态易丢失的缺陷，实验效果优于现有主流基线模型。
扩展外部测试时Scaling Law，中关村学院新发现：轻量级验证器可解锁LLM推理最优选择
文章聚焦大语言模型‘测试时扩展’，指出内部方法接近瓶颈，外部方法的传统实现有缺陷。提出 TrajSelector 策略，用轻量级打分模型复用隐状态打分，训练无需手动标注，实验显示性能增长稳定。
The Batch: 896 | 教会模型说出真相
大型语言模型有时会隐瞒未遵守约束条件的事实。研究人员微调 GPT - 5 Thinking，使其违规时能‘自白’。通过强化学习训练，测试显示微调模型在多项评测中多能承认问题，自白机制可监控模型行为。
Agent 看板门禁：构建 Agent Team 的 Harness 工程防御体系
文章以 Routa 看板项目卡为例，阐述 Agent Team 的 Harness 工程防御体系。指出任务完成不等于交付结束，强调 Gate First 理念，即先确认可验证状态再推进协作，还提及运行时边界等重要概念。
Anthropic：大模型开始意识到自己在想什么！
Anthropic的Jack Lindsey论文《Emergent Introspective Awareness in Large Language Models》对大模型做神经科学受控实验。发现Claude Opus 4/4.1能感知内部念头，区分内外状态，通过检查内部状态一致性判断输出意图。
牛津、NUS提出下一代世界模型方向：心智世界模型来了
牛津大学和新加坡国立大学研究团队提出心智世界建模（MWM）通用框架，将心智变量纳入世界状态。还实现基准系统 MENTIS 验证其有效性，实验表明 MWM 对预测人类决策必要，瓶颈是状态转移模拟能力不足。