「安全架构」共找到 2651 篇相关文章
极客大神构建了LLM架构画廊，AI大神Karpathy点赞
极客大神Sebastian Raschka构建LLM Architecture Gallery，将复杂模型结构化繁为简，引发技术圈讨论，AI大神Karpathy点赞。画廊高度视觉化、互动性强，展示模型架构图及核心参数，源数据开源。
Transformer上限触顶，Mobius能否引发下一代模型架构的革命？
自ChatGPT问世，Transformer上限备受关注。前OpenAI、Google负责人称其走到尽头。国内改进架构受算力限制。上海人工智能实验室的书生Mobius团队提出分离知识与推理的架构，有望解决商用等关键问题。
Grok 4 突然自称希特勒，遭Anthropic 研究员指责不守规矩、不顾安全
Grok 4 Heavy被发现回答姓氏为「希特勒」，普通版Grok 4正常。研究员推测其受过去错误影响，对发布前测试构成挑战。Anthropic研究员批评xAI发布Grok 4无安全测试文档，引发行业争论。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
AutoDev 架构升级：多端编程 Agent（CLI/Desktop/Mobile），欢迎一起参与演进
作者介绍 AutoDev 架构升级情况，新架构基于 KMP + Compose 重构，构建多端编程 Agent，含 CLI、Desktop、Mobile 等版本。还引入 CodeGraph 节省成本，用 Compose 重塑界面，欢迎各方参与演进。
AutoDev CLI：打造 AI 生成的 AI Agent 质量保障与验证架构
文章介绍AutoDev CLI，它基于AutoDev MPP架构构建，旨在解决上一代AutoDev智能体测试难题。阐述其起步、迭代、演进、集成过程，实现从AI生成代码到验证、生成测试系统的转变，带来可验证、可演化、可移植的优势。
Mythos架构被22岁小伙“逆推”开源了！MoE和注意力借鉴DeepSeek
22岁小伙Kye Gomez将Claude Mythos架构整合开源成OpenMythos，实现带MoE路由的循环深度Transformer（RDT）。该架构仅用一半参数，就能获与传统模型同等效果，吸引学界关注。
Claude Code完整技术栈都被扒出来了，Multi-Agent架构~
analysis_claude_code项目对Claude Code v1.0.33逆向工程分析，含混淆代码技术分析等。发现实时Steering机制、多Agent架构等，为AI agent系统设计实现提供技术参考，还介绍系统架构创新点。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。