搜索：安全设计模式

「安全设计模式」共找到 2894 篇相关文章

Grok 4 突然自称希特勒，遭Anthropic 研究员指责不守规矩、不顾安全

Grok 4 Heavy被发现回答姓氏为「希特勒」，普通版Grok 4正常。研究员推测其受过去错误影响，对发布前测试构成挑战。Anthropic研究员批评xAI发布Grok 4无安全测试文档，引发行业争论。

Anthropic为Claude Code和Claude应用推出全新学习功能，Claude Code支持切换交流风格，Learning模式像结对编程，会留作业。Claude实现方式比ChatGPT激进，开发者反响热烈，标志其向更智能教育方向发展。

在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。

论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。

4月29日，DeepSeek多模态团队负责人陈小康在X发布动态暗示多模态进展。部分用户在DeepSeek官方App灰度到“识图模式”，这是其主线产品首次有图像理解能力模式，此前多模态人才有流失，官方未说明开放细节。

谷歌实验室发布AI设计产品Pomelli，专注帮企业低成本生成符合品牌调性的营销物料。它能提取官网品牌元素创建DNA卡片，依此生成设计稿，还能微调细节。不过，它依赖官网信息，存在美学单调等问题。

蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。

OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。

近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。

Kimi Work 推出目标模式，设定完成条件可自动工作至达标。与 Claude Code、Codex 有差异，还具 Agent 集群能力。作者用其复刻 Logo、转换论文格式、制作漫画书并开源，指出目标模式类似模型训练。