「安全综述」共找到 1032 篇相关文章
Grok 4 突然自称希特勒，遭Anthropic 研究员指责不守规矩、不顾安全
Grok 4 Heavy被发现回答姓氏为「希特勒」，普通版Grok 4正常。研究员推测其受过去错误影响，对发布前测试构成挑战。Anthropic研究员批评xAI发布Grok 4无安全测试文档，引发行业争论。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
GPT-5点赞！八大顶尖机构发布「自进化智能体」全面综述
在2025年，大语言模型已演变为智能体，但现有智能体部署后难以适应变化。格拉斯哥大学等机构学者发布综述，系统梳理自进化AI智能体核心框架与挑战，提出三定律，还介绍了优化技术、应用案例等，并指出未来方向。
迎接「万物皆可RAG」时代：最新综述展示50多种多模态组合的巨大待探索空间
大模型常采用RAG技术，多模态崛起使RAG向MM - RAG发展。目前MM - RAG研究初级，华中科技大学等研究者发布综述，覆盖所有模态组合，剖析工作流，提供构建系统的一站式指南。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
从物竞天择到智能进化，首篇自进化智能体综述的ASI之路
普林斯顿大学等机构研究者发布首个自进化智能体综述，为领域建统一理论框架和路线图。综述给出形式化定义，围绕What、When、How、Where构建分析设计框架，还探讨评估范式并指明未来方向。
推荐系统进入「双动力」时代！首篇LLM-RL协同推荐综述深度解析
强化学习是推荐系统主流建模范式，但传统 RL 推荐系统有诸多瓶颈。大语言模型崛起带来新机遇，LLM 与 RL 结合开启新范式。研究团队发布首篇相关综述，提出五大协同范式，总结评估体系，分析挑战与方向。