搜索：可解释性研究

「可解释性研究」共找到 5473 篇相关文章

加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak

提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。

最近 Dia 连更两小版本，推出 Skills Gallery 和 Research 功能，即扩展技能库和深度研究能力。它更新似微信，节奏快创意足，让对手难抄袭。目前免费，仅 M 芯片苹果电脑可用，文末有邀码获取方式。

Anthropic为Claude开博客展示写作能力，内容经团队把关。AI写内容已不新鲜，但多有翻车。普华永道研究称AI提升员工创效，重塑企业运营逻辑。多公司推行AI战略，不过学生用AI作弊引担忧。

北大袁粒课题组提出统一大模型架构UniWorld-V1。通过对GPT - 4o - Image实验，发现其依赖语义编码器提取视觉特征，据此设计架构，在多基准测试表现优异，开源代码等促进研究。

阿里国际AI团队提出CIGEval，这是基于多模态大模型驱动的图像生成评估智能体框架。它集成多功能工具箱，通过任务拆解与工具调度提升评估准确性与可解释性，已在ComfyUI - Copilot上线。

谷歌DeepMind论文指出，Transformer架构不擅长追踪状态，思维链只是给结构性缺陷打补丁，成本高。论文主张用循环架构替代或补充纯前馈结构，还提出多个研究方向，认为下一代模型需构建‘流动的现实表示’。

作者试用 AI 视频产品 LibTV，仅给 Claude Code 发一句话“「黑神话哪吒」视频制作”，约 10 分钟就得到视频初稿。LibTV 能搭好 0 到 60 的地基，留下可继续创作的画布，成本低还能多尝试，最后仍需人把关。

作者邓天卓分享用AI重建家庭数字生活的经历。从迁移20年数据，到让AI控制家电、汽车，还能排查电脑木马、整理照片等。虽AI有不足，但技术已能把科幻变成日常，家庭AI工作站可慢慢搭建。

BettaFish微舆可依自然语言需求抓取分析30多个主流社交媒体生成舆情报告。它将任务拆解给不同智能体，系统架构清晰，最终整合生成带时间线分析的HTML报告。项目在GitHub开源且登顶趋势榜第一。

著名数学家陶哲轩用ChatGPT - 5 Pro研究曲率有界的球面问题，记录AI在不同层面的表现。小尺度和宏观尺度AI有用，中尺度帮助有限。虽问题未解决，但他学到新知识，也意识到与AI协作要谨慎。