「防御图谱」共找到 169 篇相关文章
《2025新智元ASI前沿趋势报告》全文
新智元十周年峰会现场，重磅发布《2025新智元ASI前沿趋势报告》，预测2027抵达ASI临界，智能体全面爆发，图谱融合全球数据刻画全球竞争格局。
提示词压缩竟成大模型新漏洞？港科大提出黑盒攻击框架COMA | ASE 2026
香港科技大学研究发现，大模型的“提示词压缩”模块会重写系统安全边界，成为新攻击面。团队提出“对抗性信息损失”概念和COMA攻击框架，实验有效，还给出隔离压缩防御方案。
DeepSeek、GPT、Qwen，所有大模型架构图都有，Karpathy：宝藏画廊！
大模型赛道热闹，架构创新多，理解困难且缺清晰架构图。AI 研究者 Sebastian Raschka 绘制主流大模型结构，整理成在线图谱「LLM Architecture Gallery」，方便研究者查阅对比。
Transformer论文作者重造龙虾，Rust搓出钢铁版，告别OpenClaw裸奔漏洞
Transformer作者Illia Polosukhin重造安全版龙虾IronClaw。OpenClaw安全状况差，IronClaw用Rust重写，建立四层防御，还能防提示注入。其背后是NEAR更大构想，目标是用户掌控数据和资产。
卡帕西没做完的，开源社区48小时搞定了！完全体知识库，token省70倍
Karpathy分享的个人知识库爆火，48小时后开源社区推出Graphify工具。它零配置、全模态、本地跑，能自动构建知识图谱，省71.5倍token，还全平台适配，降低了上手门槛。
德勤2026技术趋势报告：五大力量正驱动技术和商业进化
德勤《2026技术趋势》报告揭示技术从实验走向商业应用。涵盖物理AI进化、智能体落地、企业重构计算、技术组织架构转变、安全防御等趋势，还提及八大技术演进信号。
Claude Mythos Preview来了！强大又危险，Anthropic还专门组了个研究团
今日凌晨，Anthropic发布Claude Mythos Preview新模型及AI网络安全项目Project Glasswing。该模型虽性能卓越，但有安全风险，Anthropic暂不全面开放。Project Glasswing汇聚众多巨头，获巨额资金支持，旨在构建AI防御联盟。
Dario Amodei 万字长文：我们已经没有时间可以浪费了，直面并克服强大AI带来的风险
Dario Amodei万字长文指出，最早2027年或现超诺奖得主AI，人类面临安全威胁。他定义了“强大AI”，分析自主性、滥用、经济颠覆等风险，给出多方面防御措施，强调人类要直面问题。
做AI漫剧的、搞Agent的、投硅谷的，5.20这些赛道顶流碰头了｜最新嘉宾阵容
5月20日，量子位将在北京举办中国AIGC产业峰会，主题为「@所有人，马上AI起来」。峰会聚齐百度、智谱等企业实战派，还将揭晓2026年度AIGC企业&产品榜单，发布《2026年中国AI应用全景图谱报告》。
开源，本体驱动的GraphRAG新范式，零噪声~
分享开源项目trustgraph，重点介绍本体驱动的零噪声GraphRAG。常规GraphRAG在实际应用中问题多，如数据重复、冲突、缺数据等，而本体可构建自我完善的知识图谱，作者为此造了“本体驱动GraphRAG”。