「内容安全」共找到 2716 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
劝人退学、庆幸没读博浪费5年，26岁DeepMind“传奇人物”：大厂内部分散，AI研究很低效
26岁的Neel Nanda是DeepMind“传奇人物”，他涉足机械可解释性研究四年成果丰硕。在与主持人对话中，他分享经验，认为大厂内部分散、AI研究低效，还谈及读博、AI安全研究、公司决策等看法。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
「OpenClaw之父点赞」终结百虾大战？一场升级版的AI原生革命上演
2026年科技圈“百虾大战”正酣，网易有道全量开源桌面Agent产品LobsterAI，获OpenClaw之父赞扬。有道还孵化多个Agent产品，重构底层逻辑，转变商业模式，深扎场景切片，探索“能力+订阅”范式。
偷数据的AI公司被抓到了
Reddit发现AI公司利用Wayback Machine开放性，绕过限制扒取大量历史数据用于模型训练。此前Reddit已对AI公司数据抓取设限，还起诉过违规公司。Reddit抵制该行为，宣布限制Wayback Machine索引其内容。
Github斩获1.8K 星！！再见了按键精灵，Windows-MCP开源了！
今天介绍超酷开源项目Windows - MCP，它让AI与Windows系统互动，支持Win7到Win11。功能强大，不挑大模型，工具全、轻量开源、扩展性强。还给出安装步骤，不过使用时要谨慎。
PDF/DOCX/HTML/扫描文档接卸不再愁！D自动解析文档并统一格式的开源库edoc
Dedoc是开放通用系统，能将文档转换为统一格式，提取逻辑结构和内容。用Python实现，支持多种格式，有可扩展性等优势，还能处理扫描文档，可用于多个系统，介绍了安装方法。
RAG 2.0 深入解读
文章深入解读RAG 2.0，指出其虽在多行业落地，但面临多模态处理、检索质量等挑战。还介绍架构升级，阐述检索、重排序等关键技术，最后探讨统一多模态大模型、安全等发展方向及挑战。
14k颗星！你的电脑屏幕，正在成为AGI的“眼睛”！这款开源神器让你一键记录所有操作
介绍开源项目ScreenPipe，它是跨平台桌面数据抓取API，能全维度记录数据，有沙盒化插件系统等功能。因能为AGI提供数据、对开发者友好而火，还给出安装和创建插件命令，称其有成为AGI时代“现实采集器”的野心。
李飞飞刚立规矩才13天，国产卡上「真物理」就来了！
李飞飞为「世界模型」立规矩13天后，中国「草根」团队Mogo推出全球首个具备高动态物理交互能力的世界模型Magpie 1.0，在国产芯片上实现超10分钟物理一致性，开辟全新技术路径。