搜索：可解释性研究

「可解释性研究」共找到 5461 篇相关文章

OpenAI官方GPT-5 提示词泄露：这套“反向Prompt”技巧，让模型听话得像条狗。

GPT5提示词被破解，结合官方《GPT - 5 Prompting Guide》有不少技巧。如Metaprompting让GPT - 5优化Prompt，指导AI编码可明确知识、培养自信等，还有控制AI主动性的方法。

普林斯顿研究提出‘机器胡扯’概念，构建分析框架，含胡扯指数、行为分类法和评测集。实验揭示RLHF加剧胡扯，政治语境模型爱‘打太极’，为构建诚实AI提供工具和理论。

本文展望数据科学未来，强调其对AI重要性。探讨科学数据系统挑战，提出收集处理原则，指出要重视数据系统逻辑与架构研究，建立标准协议框架，促进AI健康发展。

Claude Code团队宣布新增Channels功能，可通过MCP控制会话，首批支持Telegram和Discord。用户能手机远程控制AI写代码，目前已灰度测试。不过其功能依赖会话存活，后续或接入更多平台。

10月17日，Anthropic发布Claude Skills，是助其模型获新功能的模式。Claude用Skills可改进执行特定任务方式，且只在相关时调用。它易共享，可能比MCP更重要，实现依赖编码环境。

Karpathy官宣加入Anthropic要组建新团队‘用Claude加速预训练研究’，话音未落，Google&Meta等发论文‘LLMs Improving LLMs’验证了该思路。论文让Claude Code搜索最优推理策略，结果全面超越人类设计。

作者本想退订Claude，因Anthropic发布Claude Skills改变主意。它是‘能力包’，含SOP、工具和资源，分层加载省上下文窗口。预设Skills可体验，官方开源，模块化设计利于挂载和按需加载，或形成Skills Market。

谷歌开源 Python 库 LangExtract，能让 LLM 依用户指令从非结构化文档提取结构化信息。它可处理临床记录等，具备精确源接地、可靠输出等特性，支持多模型，无需微调，适用于各领域。

卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。

OpenAI Sora 宣布关停，其评论区评价两极分化。它没跑成“视频版 ChatGPT”，问题在于使用频率、成本结构和产品形态。关停或与 OpenAI 筹备 IPO 有关，未来 Sora 团队将推进相关研究。