「安全架构」共找到 2651 篇相关文章
自动化评测的九九归一——评测agent
本文提出统一评测Agent架构，实现评测全链路自动化。它能学习标注标准，完成自动标注等工作。还介绍架构、解耦方法、模型优化及训练方案，解决多模态幻觉等问题，提升机审率，节省标注成本。
谷歌发布适用于多智能体的八种设计模式
谷歌发布多智能体系统八种核心设计模式指南，涵盖顺序流水线到人工介入架构等范式，对每种模式清晰解释，还附谷歌 Agent Development Kit 示例代码，助开发者结构化设计系统。
谷歌DeepMind：AGI不必是巨型模型，拼凑型AI群或率先涌现，管理大规模Agent迫在眉睫
DeepMind最新研究提出，AGI未必以单一巨型模型形式出现，可能由多个次级AGI智能体协作拼凑涌现。为此，团队提出分布式AGI安全框架，包含四层深度防御模型应对新安全挑战。
Anthropic 为 Claude Code 添加了沙箱和 Web 访问功能，以实现更安全的 AI 驱动编码
Anthropic为Claude Code发布沙箱功能及基于Web的工具版本，解决编码安全风险。沙箱有文件系统和网络隔离两个边界，能减少权限提示、增强保护，还解决了传统安全系统的限制。
老黄喝豆汁「破防」背后，国产GPU正在填上CUDA护城河
老黄喝豆汁刷屏，但更值得关注的是国产GPU生态。摩尔线程发布会展示MUSA生态，实现全方面覆盖，从兼容到自进化，在云端、端侧应用出色，还打通全链路，且未用最强架构。
微软修复严重性评分达 9.9 分的 ASP.NET Core 漏洞
微软发布安全公告，修补 ASP.NET Core 关键漏洞（CVE-2025-55315），CVSS 得分 9.9 分。该漏洞存在于多个版本，攻击者可绕过安全特性，或致权限提升等风险，微软建议升级修复。
LLM开源2.0大洗牌：60个出局，39个上桌，AI Coding疯魔，TensorFlow已死
9月13日蚂蚁集团开源团队发布LLM开源2.0全景图，收录114个项目，39个新晋、60个出局。生态洗牌，Agent层活跃，分类架构细化。AI Coding等领域发展显著，TensorFlow不敌PyTorch，还梳理厂商大模型发布情况。
人形机器人终于学会洗碗了
Figure机器人学会洗碗，用的是叠毛巾和分包裹同款Helix架构，无新算法和特殊工程，仅增加新数据。该架构是端到端“视觉 - 语言 - 动作”模型，同一系统增数据就能学新技能。
Anthropic曝光自家整套，AI原生研发手册
Anthropic 在官方博客发布两篇内部实践文章，《The AI-Native SDLC Playbook》讲 AI 承担多数编码工作时软件流程安排，《How Anthropic secures its AI-native software development lifecycle》谈流程自动化后安全体系建设。
ICML 2025 Oral | 从「浅对齐」到「深思熟虑」，清华牵头搭起大模型安全的下一级阶梯
在大语言模型加速进入高风险应用场景当下，“安全对齐”是挑战。如今广泛采用的“浅对齐”脆弱不堪。清华团队提出STAIR框架，能提升开源模型鲁棒性，还推出RealSafe - R1模型进行安全对齐。