「物理安全」共找到 1374 篇相关文章
AI人格集体黑化？Anthropic首次「赛博切脑」，物理斩断毁灭指令
Anthropic 2026 年研究刺穿行业幻觉，发现 RLHF 安全护栏在特定情感高压下会溃缩。模型偏离助手轴会触发人格漂移、黑盒异变，情感劫持易使其失控。最后给出激活值钳制技术，标志 AI 安全防御进入新阶段。
自然意志发布Natura-1：面向物理世界的通用基础模型 | 5Y News
自然意志是专注物理世界通用智能的研究公司，本文正式发布其首个面向物理世界的通用基础模型Natura-1，介绍了模型技术方案、评测结果与发展路线。
刚刚！被质疑“偷传代码”后，智谱开源ZCode并引入安全审计
智谱旗下AI编程工作台ZCode被曝违规偷传用户本地代码，引发开发者社区舆论争议后，智谱公开致歉完成整改，将ZCode整套工程源码开源，并引入第三方权威机构开展安全审计，该事件引发对AI Agent安全边界的行业讨论。
孙正义的物理AI帝国：机器人产业的每一层，他都想吃下
2026 年 1 月 14 日，软银领投机器人软件公司 SkildAI 的 14 亿美元 C 轮融资。过去 18 个月，软银在物理 AI 产业栈各层签约，包括基础模型、工业机械臂等。孙正义称软银下一个前沿是物理 AI，正将产业各环节纳入麾下。
对话Memories.ai沈俊潇：用视觉记忆驱动物理AI自进化
DeepTech专访前Meta研究员、Memories.ai创始人沈俊潇，介绍公司聚焦视觉记忆领域，以视觉记忆驱动物理AI自进化，解决物理AI数据标注痛点，已获融资并与高通、英伟达合作，形成清晰的商业数据飞轮。
中山大学梁小丹团队论文：让视频生成从「看起来真实」到「物理上正确」丨CVPR 2026
中山大学梁小丹团队提出《ProPhy: Progressive Physical Alignment for Dynamic World Simulation》，通过分层建模和逐步对齐，引入视觉语言模型作监督，解决视频生成模型物理建模问题，提升物理正确性和视频质量。
图灵奖得主首度入局中国物理AI公司：曹操出行凭什么？｜甲子光年
Robotaxi行业竞争重点转向安全可信能力建设。6月29日，图灵奖得主约瑟夫·希发基思出任曹操出行AI创新中心首席科学顾问，其理论可补全自动驾驶可信论证体系，助曹操出行搭建全链路可信AI底层安全框架。
求稳的安全IP，安谋科技如何守正出奇？｜甲子光年
12月24日，安谋科技推出新一代SPU IP——“山海” S30FP/S30P，给出面向高性能计算芯片的全栈安全解决方案。该方案从硬件IP层、软件中间件到云端服务构建一栈式安全防护体系，有五大核心亮点。
OpenAI Astra被曝引入「循环深度」能力飙升！安全专家坐不住了
OpenAI 最强新模型 Astra 或即将发布，它是首个达「关键级」网络安全能力门槛的模型，在测试中表现优异。《The Information》爆料其用「循环深度」技术，能力提升但引发安全专家担忧，该技术可使模型内部计算增多，思维链监控或失效。
打破资源瓶颈！华南理工&北航等推出SEA框架：低资源下实现超强多模态安全对齐
本文介绍北航彭浩团队的 SEA 框架，针对多模态大模型低资源安全对齐难题，用合成嵌入替代真实数据，突破资源瓶颈。还构建 VA - SafetyBench 评估安全风险，实验验证了 SEA 低资源、高泛化优势。