「安全研究」共找到 2667 篇相关文章
Veo何止生成视频：DeepMind正在用它模拟整个机器人世界
通用型机器人策略发展带来挑战，传统评估方法有局限，前沿视频模型虽有潜力但面临困难。Google DeepMind团队提出基于Veo的机器人策略评估系统，经实验验证有效，展示了视频仿真评估的可行路径。
智能体自己出现问题自己找！首次提出“自动化失败归因”课题 | ICML2025 Spotlight
LLM Multi - Agent系统失败诊断难，阻碍迭代优化。宾夕法尼亚州立大学等机构研究者首次提出“自动化失败归因”课题，构建Who&When数据集，开发评估多种归因方法，实验揭示当前方法不足。
75页哈工大多模态推理大模型最新综述：感知、推理、思考与规划
哈工大提出75页多模态推理大模型综述，围绕四阶段发展路线图展开，即感知驱动的模块化推理、以语言为中心的短推理、以语言为中心的长推理、迈向原生多模态推理模型，还给出挑战性基准测试和实验案例见解。
全球首例！科学家将腿部肌肉线粒体注入盲人眼球，瞳孔光反射短暂恢复
对于视神经严重受损致盲，临床缺有效修复手段。美国研究人员从失明女性腿部肌肉提取线粒体注入其双眼，初步验证了自体线粒体眼内移植的安全性，患者眼部有生理变化，但未恢复视力，实验疑问多。
Anthropic顶级Claude模型被逆向开源，这几个模块借鉴了DeepSeek
22岁开发者逆向开源Anthropic的Claude Mythos Preview模型架构，名为OpenMythos。其核心模块借鉴DeepSeek，采用带混合专家路由机制的循环Transformer，有独特设计和稳定机制，重新框定扩展性争论。
用雨伞「钓」无人机？首个针对自主目标跟踪闭环系统的物理攻击
加州大学尔湾分校研究人员用特制雨伞干扰无人机视觉系统，实现FlyTrap攻击，让无人机误判目标远去而失控俯冲。此攻击无需信号干扰，成功率超60%，有强泛化能力，揭示了AI感知系统安全隐患。
用得越多、失业越快？GitHub 大改 Copilot 规则：默认拿个人代码训练 AI，还搬出 Anthropic 挡枪！
当地时间3月26日，GitHub宣布自4月24日起，Copilot Free、Pro和Pro+用户交互数据默认用于训练改进AI模型，但用户可手动退出。它称此举因模型需更多数据，还拿微软等挡枪，却遭开发者吐槽。
字节清华智能体自动写CUDA内核，比torch.compile加速2.11倍
字节Seed与清华AIR团队开源CUDA Agent，在GPU内核优化基准KernelBench上成绩优异。它是大规模智能体强化学习系统，训练数据经多阶段构建，分阶段训练，全面超越商业模型，还开源了训练数据集。
PyTorch 基金会迎来 Ray 项目，并推出 Monarch 简化分布式 AI 开发
2025 年 PyTorch 大会上，PyTorch 基金会宣布 Ray 项目加入，还推出 PyTorch Monarch 简化分布式 AI 工作负载。大会突显基础模型开发对透明度和可复现性的推动，基金会欲成开放式 AI 基础设施核心枢纽。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。