「安全团队」共找到 4307 篇相关文章
Grok 4 突然自称希特勒，遭Anthropic 研究员指责不守规矩、不顾安全
Grok 4 Heavy被发现回答姓氏为「希特勒」，普通版Grok 4正常。研究员推测其受过去错误影响，对发布前测试构成挑战。Anthropic研究员批评xAI发布Grok 4无安全测试文档，引发行业争论。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
00 后天才团队，发布全球首个 A 股金融博弈智能体应用
00后团队推出全球首个A股金融博弈智能体应用FinGenius，内测就吸引众多用户。通用AI在A股“水土不服”，而它有16个智能体分工协作，30秒出报告，还集成MCP协议，愿景是重塑金融行业。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
Hermes Agent抄袭中国团队代码实锤！被锤后回应：你删号
AI圈现教科书级开源抄袭事件，GitHub狂揽8.5万Star的Hermes Agent被指架构级抄袭中国团队EvoMap的Evolver引擎。EvoMap公开技术对比报告，实锤两者架构高度同构，而Hermes团队回应令人失望。
提出“AI虚拟细胞”的团队，现在要虚拟整块组织了
2024年12月，瑞士洛桑联邦理工学院夏洛特·邦纳团队提出“AI虚拟细胞”。一年多后，AIVC方向有进展，但虚拟组织层面工作少。近日团队推出VirTues基础模型，解决空间蛋白质组学数据分散问题，在多任务表现好，还用于三阴性乳腺癌预测。
红杉专访 OpenAI Codex 团队：AI Coding 的未来，应该是异步自主 Agent
红杉专访 OpenAI Codex 团队，探讨 AI Coding 未来。OpenAI 5 月推出的 Codex Agent 可并行处理多任务、独立完成编程全流程。从代码补全到任务委托，AI 编程朝解放生产力方向发展，团队分享了产品思考等内容。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
临床PK完胜ChatGPT-5！国内团队造出首个OCT影像AI系统
近日，空军军医大学李妍教授团队与深圳清华大学研究院朱锐团队联合完成的COMPARE研究发表。其构建的CA - GPT系统在PCI决策制定上显著优于ChatGPT - 5，有望重新定义心脏介入手术智能化标准。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。