「AI安全测试」共找到 11113 篇相关文章
Anthropic智能体大会：Agent也会精神分裂，我们发现了多Agent协作的本质解法。
Anthropic开发者大会聚焦Agent，分享多智能体实战经验。Omni的Blobby出现‘精神分裂’问题，根源是内外层Agent能力认知断裂，修复方案是将工具上提。Anthropic团队则通过协商签订协议解决角色定义不一致问题。
Claude Managed Agents提了两个新改进，解决企业级安全问题
企业把AI接入内网，认证令牌风险大，阻碍全面接入内部API和数据库。Anthropic为Claude Managed Agents提出自托管沙箱和MCP隧道两个新解法，核心是让凭证控制权留在网络边界，还介绍了相关沙箱服务商。
Google推出Gemini Spark：不用开电脑也能24小时跑
Google在2026年I/O大会推出个人AI代理产品Gemini Spark，是24小时数字生活助手。它搭载Gemini 3.5大模型，用自研Antigravity框架，运行在Google Cloud虚拟机，可对接Google工具，后续将通过MCP接第三方服务。
突发！卡帕西宣布入职Anthropic
大神Karpathy宣布加入Anthropic，重回一线大厂。他曾多次在AI领域转换角色，此次将加入预训练团队，开展用Claude加速自身预训练研究。外界揣测其离开OpenAI原因，加入Anthropic能为研究提供更多资源。
马斯克22万张GPU全卖给Claude用：5小时限额翻倍，双方合作建太空算力
马斯克和Anthropic签署算力合作协议，将旗下Colossus 1超算集群全部给Claude用。此前马斯克抨击过Anthropic，合作后态度转变。此交易或改写AI算力格局，且三家计划IPO的公司故事也因此改写。
Agent 开发范式演进：从环境工程出发，“简化”多源实时上下文
本文整理自阿里云沈林在2026中国生成式AI大会分享。探讨企业级Agent落地瓶颈，指出关键在上下文供给能力，围绕信息完备性等五维度，介绍EventHouse如何让Agent接入业务环境，强调构建上下文体系重要性。
GPT-Image-2平替！最强开源生图模型来了
OpenAI推出GPT Image 2引发AI生图大战，国内厂商商汤反击，推出多模态理解生成模型SenseNova U1并全面开源。它通过自研架构实现理解、推理、生成统一，实测表现惊艳，能力全维度，与GPT-Image-2范式不同。
社区发布丨全面开源！商汤日日新SenseNova U1发布，迈向模型理解生成统一时代
商汤科技正式发布并开源商汤日日新SenseNova U1系列原生理解生成统一模型，基于NEO - unify架构，实现模态集成向原生统一跨越，其轻量版在多项测试达同量级开源SOTA，还能连续性图文创作。
我嘞个豆！中国企业牵头，ICLR这场Workshop被挤爆了
ICLR 2026在巴西线下举办，华人活跃其中。一场由阿里妈妈牵头的Workshop被围得水泄不通，聚焦机制设计与决策智能，这是ICLR历史上首个该方向Workshop，集结了顶尖高校，探讨AI重写下的相关问题。
Anthropic最强网络攻防大模型Mythos，美国国安局早就一直在用了
美国政府准备向多个联邦机构开放Anthropic新模型Mythos的‘修改版’，虽国防部将Anthropic拉黑，但国安局一直在用Mythos。白宫先明确模型接入的权限、用途等边界，再推进接入，各方对其态度有分歧。