「智能体安全」共找到 4158 篇相关文章
英伟达成开源新王？Nemotron 3全新混合专家架构，推理效率升4倍
北京时间今天凌晨，英伟达发布 Nemotron 3 系列开放模型，含 Nano、Super 和 Ultra 三种规模。Nano 已上线 Hugging Face，采用混合 MoE 架构，推理效率提升显著。该系列还具备多种核心技术和实用能力，相关工具和数据集也已开源。
OpenAI十周年「血色浪漫」：11位联创出走8位，奥特曼深夜发文
OpenAI迎来十周年，发布短片回顾发展。过去11位联创出走8位，奥特曼发文揭秘细节，称吃到时代红利。新晋女高管分享炼成秘诀，如研究驱动产品、自下而上创新、重视安全等。
HexStrike代理：让大模型继承专家经验，显著提升渗透测试效率
HexStrike是开源渗透测试工具，以MCP为底座。其核心智能组件IntelligentDecisionEngine是专家系统，将安全专家经验规则化，通过知识库和算法提供工具选择和参数优化，提升渗透测试效率。
阿里Qwen悄悄放出6个开源权重，国庆卷疯了~
国庆期间，阿里通义千问悄悄放出6个开源模型权重，Qwen3-VL是通义千问系列最强大的视觉 - 语言模型。其30B版本多模态表现媲美GPT - 5 - Mini等，功能与架构均有升级。
震撼，世界模型第一次超真实地模拟了真实世界：谷歌Genie 3昨晚抢了OpenAI风头
昨晚谷歌DeepMind宣布Genie世界模型到第3代，能通过单个文本提示词创建交互式、可玩环境。它在多方面优于前代及其他模型，具备构建完整世界能力，但也存在动作空间有限等局限，未来应用值得期待。
解读｜生产级RAG系统落地的10个经验教训
本文解读Douwe Kiela分享的企业级RAG系统实施十大经验，如要有系统思维、专业化优先等，还推荐新作《MCP原理揭秘与开发指南——构建可扩展的AI智能体》。
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
吴恩达来信：当防护机制出问题时
本周，闭源模型用户意外发动网络攻击，闭源模型因防护机制无法协助防御，开放模型 GLM 5.2 却助力应对。吴恩达认为应重视模型使用的责任，开放模型能让技术更透明安全。
Claude最新模型Mythos意外泄露，性能远超Opus
Anthropic内容管理系统配置失误，近3000个未发布资产泄露，Claude最新模型Mythos提前公开。它在软件编码、学术推理和网络安全等测试中远超Opus，网络安全能力尤其危险。2026年初Anthropic产品密集发布。
Meta、OpenAI 争抢收购 OpenClaw！创始人艰难抉择：月入不到2万刀赔钱养项目，Offer拿到手软，对几十亿融资没兴趣
近日，OpenClaw 创始人 Peter Steinberger 分享项目经历。项目亏损，他收到 OpenAI、Meta 等大厂收购意向，要求保持开源。他还谈 AI 观点，如安全恐慌被放大，AI Agent 将取代 80% 独立 App 等。