「安全架构」共找到 2651 篇相关文章
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
Anthropic工程师都离不开！深夜随手撸出的开源神器，被OpenAl高价收购，23人创业逆袭
昨日 OpenAI 宣布收购 Promptfoo 保障 AI 智能体安全，技术将整合进 OpenAI Frontier。该工具由 Discord 工程师开发，受诸多企业和开发者欢迎。收购后它将保持开源，继续支持现有客户。
AI失忆术！只需3个注意力头，就能让大模型忘记「狗会叫」
Meta和纽约大学团队发布论文《From Concepts to Components》，提出SAMD和SAMI方法。前者定位模型概念注意力模块，后者微调强度。能让模型‘失忆’，还可增强推理、控制安全，为AI研究开新方向。
OpenClaw引爆的AI Agent浪潮中，终于有芯片给端侧“解渴”了
OpenClaw让AI Agent成产业竞赛焦点，但云端方案算力、成本和安全问题凸显。瑞芯微推出端云协同方案ClawChips，采用算力解耦架构，在成本与场景适配间找平衡，还开源并提供开发套件借用权益。
为什么自监督永远学不到语义？
《Visual Language Hypothesis》论文用纤维丛理论审视视觉表征学习，指出只做连续变换难触达语义。分析现有无监督学习不足，提出“Expand - and - Snap”机制，还通过实验验证，提供审视AI架构新视角。
DeepMind让AI当「上帝」，导演一场只有AI演员的「西部世界」
Google DeepMind和多伦多大学研究人员受TTRPG和现代游戏引擎启发，提出Concordia软件库。它基于「实体 - 组件」架构，将工程师与设计师角色分开，能灵活构建多角色生成式AI系统，满足不同需求。
多智能体编排太繁琐？MASFactory用Vibe Graphing直接「话」出来了
多智能体系统编排当前较为繁琐，北京邮电大学开源 MASFactory 框架，提出以图为中心架构和 Vibe Graphing 开发范式，将开发推向自然语言驱动时代，系统评估显示其效果良好。
用MoE打造DNA基础模型更强范式！人大实现seq2func全新突破
中国人民大学团队提出SPACE模型，通过引入物种感知编码器和谱系分组增强解码器，革新架构，提升了DNA基础模型性能与泛化能力，在多项测试中表现优于主流模型。
基于MCP协议的12306购票搜索服务器项目解析（附配置流程）！
文章介绍基于MCP协议的12306购票搜索服务器项目12306 - mcp，涵盖功能特点、技术架构、服务原理、数据流程、工具及安装配置，还给出GitHub地址，助开发者提升购票查询体验。
MCP 火爆半年后，是时候对它“祛魅”了
2024 年 11 月 25 日，Anthropic 发布的 MCP 协议意义重大，解决了 AI 模型与工具、数据源集成的碎片化问题。文章深入探讨其架构、价值、影响及趋势，还采访专家解答相关疑问。