「智能体安全」共找到 4176 篇相关文章
Anthropic 的 Harness 哲学：把 Agent 当牲口，而非宠物
本文分享Anthropic最新两篇博客，介绍其将运维圈“宠物 vs 牲口”哲学用于AI Agent架构设计。旧架构如“宠物”易出问题，新架构脑手分离，把Harness做成可随时重启的“牲口”，降低延迟、提升安全，还提出信任框架。
拿下五角大楼大单后，OpenAI被曝开始向北约推销军事化AI
刚拿下五角大楼大单，OpenAI 转头向北约推销军事化 AI。其 CEO 奥特曼称要覆盖北约「所有机密网络」，后解释为「非机密网络」。Anthropic 因坚守安全红线被国防部出局，OpenAI 却拥抱军工，其「护栏工程学」难控风险。
帕西尼再融10亿元，具身感知赛道跑出35亿元融资纪录
帕西尼获10亿元战略轮融资，累计35亿领跑全球具身感知赛道。本轮由巨头和基金联合领投，形成“四位一体”资本生态。其全栈自研，具先发优势，正推动具身智能发展，目标成产业能力底座。
首次曝光！OpenAI新一代旗舰Astra换上“循环深度”推理架构：用计算深度换参数规模
9月2日消息，OpenAI将推出的旗舰模型Astra采用“循环深度”新技术，用较小模型实现庞大模型性能，降低成本。但该技术会让AI推理过程不可读，加重安全担忧，此前奥特曼已因Astra“能力过强”踩刹车。
中国人能飞！杭州发布全球首款站姿载人飞行器
杭州酷飞发布站姿个人飞行器Urban、坐姿个人飞行器Dream及自研NA80飞控系统。产品操作简便，已获海外近百台定金订单，还构建了安全防护体系并补齐保险。两款飞行器定位不同，核心是自研飞控。
触觉具身来了个梦之队：天使轮近亿
5月27日，上海新智具身智能科技有限公司宣布完成近亿元天使轮融资。该公司源自复旦大学，核心团队实力强。它聚焦触觉具身智能，构建技术闭环，在数据采集、模型训练等方面有进展，已在工厂落地POC验证订单。
Teleport 报告：AI 安全事件频出，背后往往是过度授权
Teleport报告指出，为AI系统授予过度访问权限的企业，安全事件发生率是权限管控合规企业的4.5倍。身份管理体系建设跟不上AI落地速度，精细化权限授予是关键，还给出搭建统一身份层等建议。
Cursor终结者？Grok 4正式登顶！马斯克扬言编程碾压，20万N卡年赚47亿美金！
时隔5个月，xAI发布通用模型Grok 4，后续还将推三款模型。Grok 4上线，有三个订阅版本。马斯克称其智能超博士生，多项基准测试领先，编码或超Cursor。其性能强大源于训练投入和计算扩展。
2篇最新Anthropic论文，揭开LLM对齐新范式
Anthropic在5月连发两篇研究，揭示LLM对齐训练新范式。指出单纯模仿正确行为不足以保证安全，需在预训练与对齐微调间插入教原理阶段。研究围绕Claude模型展开，有多项关键发现，MSM方法效果显著。
英伟达2026奖学金，8位华人博士统治榜单！人均6万美金
2026 - 2027年度英伟达研究生奖学金名单揭晓，10位获奖者中华人学者占8席。该奖学金提供最高6万美金科研经费与暑期实习机会。研究方向涵盖神经渲染、AI安全等，体现英伟达关注具身智能和AI安全。