搜索：人工智能安全治理

「人工智能安全治理」共找到 1453 篇相关文章

刚刚，Anthropic推出Claude Chrome插件，仅限1000人

Anthropic发布Claude for Chrome扩展，让Claude能在浏览器操作，仅向1000名Max计划用户开放预览。虽功能强大，但面临提示注入攻击风险。不过Anthropic有多层防护，降低了攻击成功率，并给出用户安全建议。

伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将，助马斯克建成孟菲斯超算集群后离开xAI，创办风投公司“Babuschkin Ventures”，瞄准AI安全赛道，揭示AI行业顶尖人才的追求。

该综述聚焦行为基础模型（BFM）在人形机器人全身控制中的应用，梳理进展并分类算法，介绍应用与限制，还探讨未来研究机会与风险，有望引导该领域研究者和从业者。

浙江大学和vivo人工智能实验室团队在ACM MM 2025发表新框架CogDDN。它模拟人类认知，将“双过程理论”用于机器人需求驱动导航，实验中表现优于单视角SOTA方法，为智能机器人技术发展奠基。

人工智能时代，设备端侧面临多重挑战，传统方案渐显乏力。隼瞻科技在第五届RISC-V中国峰会推出“智翼”系列端侧AI融合处理器解决方案，以先进架构和多元优势，为行业破局提供新思路。

OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。

近年来大模型发展由科技公司主导，其数据资源不公开，学术界构建优化数据难。张文涛和鄂维南院士团队推出DataFlow系统，可实现数据治理，有算子和流水线，支持文本模态，多模态版待推出。

2025高考落下帷幕，人工智能领域多家大模型挑战数学卷。小米7B参数的MiMo - VL模型考139分，比肩Qwen3 - 235B、OpenAI o3，还在多方面表现出色，技术报告等已开源。

在具身智能崛起时，灵巧手成人工智能落地核心突破口。2025年5月25日相关线上沙龙中，嘉宾围绕灵巧手软硬件、数据与模型、落地应用等交流，探讨数据难题、开源价值、落地挑战及中美差距等。

模型与API独立分析公司Artificial Analysis对DeepSeek R1-0528评估显示，其一举超越xAI、Meta等，与谷歌并列全球第二大人工智能实验室，在多方面性能提升，缩小了开源与闭源模型差距。