「可扩展监督」共找到 4539 篇相关文章
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
Kimi推出超实用插件！让AI真正像你一样操作浏览器
月之暗面推出Kimi WebBridge浏览器扩展插件，让AI Agent像用户一样操作浏览器。它采用本地优先路线，保障安全，可实现信息采集等自动化操作，还能创建CLI工具，是AI浏览器自动化趋势的重要成果。
腾讯提出“我思故我玩”Agent：LLM构建推理与规划世界模型
腾讯与武大联合发表论文提出 CEL 新型 Agent 架构，通过 LLM 驱动两阶段循环实现“思考式学习”。它能填补传统方法短板，在小游戏实验中表现出色，有可解释性等优势，但也有实验环境局限等问题。
Dify × MCP：让工作流不再是孤岛
Dify上新双向MCP功能，能让特定工作流融入通用场景。一个方向可添加现成MCP服务器扩展工具范围，另一方向能将自建工作流转成MCP服务器输出。它解决了工作流上手难、场景窄问题，提升了生产力。
OpenAI 开发者的 Skill 经验：如何使用评估系统来优化 Skill
文章聚焦 OpenAI 开发者优化 Skill 的方法，指出迭代 AI 技能效果难测，可借助评估系统。介绍了用 Codex 评估的流程，包括明确标准、创建技能、手动触发找漏洞等，还提及不同阶段的评估重点和工具。
昆仑万维多模态视频生成开源，影音图文全统一
昆仑万维开源的SkyReels-V3，通过统一多模态上下文学习框架，实现参考图像生成视频、视频持续扩展及音频驱动虚拟数字人功能，在视觉质量与指令跟随性上逼近闭源顶尖水平，为开源社区提供强大研究基座。
隐形束缚：RLVR为何无法突破LLM的推理边界？
大型推理模型进展依赖带可验证奖励的强化学习（RLVR），但它能否扩展模型推理能力存疑。本文通过理论证明与实验，揭示RLVR存在“隐形束缚”，只能在基座模型初始能力内优化，难以发现新解。
超越Claude Mythos和GPT-5.5！斯坦福Agent验证框架拿下SOTA，Transformer作者转发
斯坦福、伯克利与英伟达联手打造LLM-as-a-Verifier验证框架，该方法是通用验证机制，可与任意Agent Harness和模型结合。研究表明扩展验证阶段计算量，能提升Agent整体性能，在多基准测试中超越Claude Mythos和GPT - 5.5。
RLPT：腾讯混元在预训练数据上实现自主强化学习
腾讯混元团队发布RLPT，是在预训练数据上应用强化学习的方法，可突破大语言模型扩展瓶颈。它能让模型自主学习推理能力，无需人工标注，在Qwen3 - 4B - Base模型实验中性能显著提升。
AI太空竞赛？英伟达H100刚上天，谷歌Project Suncatcher也要将TPU送上天
11月2日英伟达将H100 GPU送入太空，谷歌宣布开展Project Suncatcher，2027年初发射原型卫星将TPU送上天。该项目利用太阳能卫星群，可扩展AI计算规模，谷歌还分享早期研究成果，不过仍面临工程挑战。