「物理安全」共找到 1374 篇相关文章
Grok 4 突然自称希特勒，遭Anthropic 研究员指责不守规矩、不顾安全
Grok 4 Heavy被发现回答姓氏为「希特勒」，普通版Grok 4正常。研究员推测其受过去错误影响，对发布前测试构成挑战。Anthropic研究员批评xAI发布Grok 4无安全测试文档，引发行业争论。
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
世界首个！李飞飞团队推出物理推理基准，大模型统统不及格？
斯坦福联合中科大团队推出世界首个评估视觉语言模型物理推理能力的基准QuantiPhy，通过测试发现顶尖模型在数值计算上不如人类，还揭示模型推理靠记忆而非测量，为AI发展指明方向。
LLM 驱动的 AI Agent通信：协议、安全风险与防御对策
论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。
61岁贝佐斯创业物理AI！亲任CEO，首轮获投62亿美元融资
纽约时报消息，61岁贝佐斯创立Project Prometheus进军物理AI，亲任联席CEO。公司获62亿美元资金，员工上百人，从顶级AI公司挖人。该领域已有大厂及离职人员入局，竞争激烈。
当AI遇到物理学 —— AAAI大会主题演讲（Daniel）
2026年AAAI大会上，物理学家Daniel Whiteson演讲探讨机器学习与基础物理。指出粒子物理用还原论解释宇宙，虽发现基础粒子，但仍有诸多未知。粒子对撞实验复杂，需机器学习辅助，深度学习已广泛应用，还能助力发现新粒子。
一个大脑，多种本体：江行智能详解物理AI工业落地的系统解法
在2026世界机器人大会具身智能商业落地论坛上，江行智能CEO庞海天演讲指出，物理AI落地受算力约束，中国工业物理AI靠工程效率。江行提出‘一脑多体’架构，产品适配多场景，真实场站成果佳。
把事实核查嵌入诊疗流程：MedGuard给「诊疗安全」当守门人
蚂蚁AI安全实验室与厦门大学团队联合提出MedGuard，将医学事实核查嵌入诊疗流程。它是医疗安全基础设施，在诊疗意见等形成前验证事实，在评测和临床评价中表现突出，能准确判断风险边界，可嵌入医疗流程。
奥特曼瘫坐叫停“GPT-6”训练！太强触发最高安全警报
OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。