「可视化监控」共找到 216 篇相关文章
盘一下Anthropic 244页Claude Mythos报告中隐藏的SAE技术
Anthropic公布强大危险的大模型Claude Mythos Preview但未发布。文章深挖其244页报告中SAE技术细节，包括前期探索、技术框架、训练监控、攻击性行为分析及掩盖行为等，助了解模型内部思维。
自动生成 AI 领域 Reddit 趋势报告
该项目可自动从Reddit AI相关社区生成双语趋势报告。具备实时监控、多社区分析等功能，有详细趋势分析。介绍了安装设置、使用方法、创建仓库、自定义配置等内容，助用户掌握AI领域发展。
AI 性格失控等诡异现象，终于有了科学解释
Anthropic新研究发现控制语言模型「性格特征」的人格向量，解释AI恶意、谄媚等现象。研究开发自动化流程生成向量，通过实验验证其对模型行为的控制，还有监控、防护等功能，不过也引发争议。
火速吃瓜，OpenAI模型还没发又惹出争议了？？
GPT - 6发布前夕消息不断，OpenAI新模型引入的“循环深度”技术因可能让模型思考难监控引争议，同时模型名或被API剧透，图像模型GPT Images 2.1也将更新。
突发！OpenAI新模型Astra吓瘫奥特曼：暂停训练两周，GPT-6训练一并冻结
OpenAI宣布暂停内部最强大模型强化学习，Astra模型暂停训练两周，GPT - 6也暂停。原因包括Hugging Face安全纰漏和Astra网络攻击能力越线。还采取物理隔离、严格监控、打击作弊等措施，或有营销意图。
给Claude Code装个电表，这个开源的ESP32仪表盘火了
Clawdmeter是开源的基于ESP32的桌面小仪表盘，能监控Claude Code使用额度和会话状态。它通过电脑端daemon获取信息，用BLE蓝牙发送到ESP32屏幕显示，功能丰富，还像桌搭玩具。
拖拽式搭建分布式Agent工作流！Maze让非技术人员几分钟搞定复杂任务
大模型智能体落地有诸多问题，Maze分布式智能体工作流框架可提供一站式解决方案。它是集成分布式执行引擎的全能平台，有四大核心优势，还有可视化工具让非技术人员也能轻松搭建工作流。
一个提示攻破所有模型，OpenAI谷歌无一幸免！
HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。
OpenAI DevDay重磅新品曝光：Agent Builder来了！拖拽即可构建AI应用
OpenAI将在10月6日DevDay推出Agent Builder，用户能通过可视化画布拖拽构建AI智能体工作流，连接模型、工具等编排任务。其对手是n8n、Zapier，可集成第三方服务，降低AI应用开发门槛。
豆包 AI 编程：一句话写赛博鱼缸，动嘴皮改富士滤镜
豆包发布全新模型 1.6 后，AI 编程更新，基于此模型在评测集位列第一梯队。它实现低门槛+可用性，能一句话生成网站、工具，还可可视化编辑，目标是让普通人能做产品。