「机器人安全」共找到 1768 篇相关文章
ICLR2025 | LLM为什么能拒绝回答有害问题呢？
该论文首次系统性研究注意力头在LLM安全中的作用，提出Ships和Sahara方法，在极少参数改动下显著降低模型安全性，发现不同模型安全头高度重叠，为理解模型安全机制提供新视角。
这家国内公司，在给具身智能技术栈做「通解」
具身智能是AI热门赛道，世界人工智能大会WAIC 2025让其概念渐明。国内梅卡曼德公司展位集合机器人技术多种落地形式，展示自研通用机器人「眼脑手」全栈技术产品，推动机器人各行业落地。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
ICML 2025 | 给AI装上「智能升级插件」！阿里安全-清华大学D-MoLE让模型在持续学习中动态进化
近日，阿里巴巴集团安全部 - 交互内容安全团队与清华大学联合研究成果被 ICML 2025 收录。他们提出 D - MoLE 框架应对多模态大模型持续学习挑战，实验显示其性能优、训练快，还能用于提升阿里安全审核模型适应力。
智元首发SOP系统：打破离线训练瓶颈，让具身智能在“干中学”
2025年VLA让机器人有通用性，但真实部署存问题。智元机器人具身研究中心提出SOP在线后训练系统，融合在线学习等，使机器人在真实环境持续进化，实验显示其能提升性能、效率，突破VLA瓶颈。
具身智能的无本体数据，终于有了自己的「代表作」
自变量机器人发布的Demo中，机器人用数百条无本体数据完成化学实验。其发布的TwinDEX系统由无本体数据采集系统和机器人末端执行器组成，能让无本体数据获接近真机数据的训练效果，重新定义数据采集逻辑。
获NVIDIA致谢：悟空Agent的实践、复盘与迭代
本文以悟空Agent获NVIDIA致谢为切入点，介绍多智能体架构闭环及实战挑战，如上下文断流、调度失衡。还阐述架构设计、迭代优化、数据飞轮体系，指出AI infra存在安全隐患，强调安全融入业务的重要性。
动物间谍：一只披着羊皮的狗……
中国科学院派披着羚羊皮的深圳云深处X30四足机器人混入可可西里藏羚羊群，观察其行为。该机器人装备多类传感器和定位系统，能实时传输数据，还可远程控制，此前也有不少用机器人研究动物的案例。
神秘具身团队又放出一连串很炸的Demo视频…自进化模型，技术路线曝光
神秘具身团队放出一连串Demo视频，其内部代号“MVP”的模型让机器人似人般思考决策。视频展示机器人在不同场景下的表现，如躲避推搡、做家务、机器人协作、高效收纳等，体现对物理规则和人类习惯的理解与自进化能力。
给 OpenClaw 再加一道安全护栏
为保障智能体安全，开发了SKILL，覆盖安装前到运行中的全生命周期。安装前进行九类风险检查，运行时有guard机制，从六个方面看风险，设四层风险分级和输入信任等级，目标是让智能体更可控。