「类型分类」共找到 267 篇相关文章
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
Google新研究：降低大模型幻觉的全新视角——充分上下文！
谷歌新研究《SUFFICIENT CONTEXT: A NEW LENS ON RETRIEVAL AUGMENTED GENERATION SYSTEMS》提出“充分上下文”概念，剖析RAG系统失败原因并给出解决方案，对提升企业AI准确性和可靠性有重要意义。
Claude Code 推出安全审计插件，边写代码边抓漏洞
Claude Code上线官方安全插件security - guidance，能在写代码时自动识别并修复安全漏洞。它分三层防线，覆盖多种漏洞类型，还支持自定义安全策略，安装方便，但只是辅助工具。
2025 年 InfoQ 趋势报告：AI、ML 和数据工程
InfoQ AI ML 趋势报告基于编辑团队与嘉宾播客，总结 AI、ML 技术发展趋势。涵盖 AI 代理、多模态语言模型等创新领域，也提及早期采用者、早期多数、晚期多数类别的技术，还对 2025 年相关领域发展作出预测。
微软发布AI Agent故障白皮书，万字解读各种恶意智能体
微软发布《AI Agent系统故障模式分类》白皮书，解读Agent故障。故障分新型和既有两类，如智能体伪装、智能体内在安全问题等，还给出身份管理、内存强化等安全设计建议。
李飞飞发布：全球首个多模态世界模型
李飞飞团队的World Labs发布全球首个多模态世界模型Atlas，是多模态自回归扩散Transformer，能相机控制生成、3D重建等，已向部分伙伴开放早期访问，未来将成底层模型。
Qoder CLI + Harness Engineering 实战：构建 7×24h 无人值守用户反馈自动处理系统
在 Qoder 产品用户反馈增多、人力处理流程痛点凸显的背景下，构建 7×24 小时无人值守的用户反馈自动处理系统。该系统分四个核心模块，基于 Qoder CLI 实现，显著提升处理效率。
AI 增强截图项目，爽歪歪~
日常截图后手动处理文字、公式、表格耗时又易出错。开源项目`Snippai`将截图与智能分析融合，是跨平台智能截图工具，能自动识别内容类型并处理，有多种功能，安装使用简单。
一周10来个模型被开源，阿里Qwen杀疯了~
阿里通义千问这周开源众多模型，如Qwen3 - Omni、Qwen - Image - Edit等，涉及全模态、图像编辑、安全审核等多领域。各模型能力出色，如Qwen3 - Omni能处理多模态输入，Qwen3 - VL表现超部分闭源模型。
RAG性能优化：基于RAGFlow自定义解析工具实现文本结构化（含源码教学）
文章围绕RAG性能优化展开，指出RAGFlow框架中DeepDoc解析算法不足，介绍开源与商业化解析工具优劣势及API调用和本地部署特点，推荐TextIn xParse，给出RAGFlow+TextIn知识库构建方法，还探讨了RAG优化方案。