「AI安全研究」共找到 10992 篇相关文章
保姆级Clawdbot教程来了，但我还是想劝大家悠着点。
Clawdbot爆火致Mac Mini断货，它是本地高权限的个人AI助理，功能与Claude Code类似，但有接入聊天软件、长期记忆、开源等特点。文章给出安装教程，也提醒因权限高有安全风险，使用要谨慎。
从工具到生命形式：OpenClaw 引发的 Agent 再思考
InfoQ《极客有约》X QCon 直播聚焦 OpenClaw 落地难点。嘉宾探讨其验证的价值、生产级形态、落地难题等，还谈及 AI 与人类共生关系、记忆系统问题及解决方案，最后分享企业落地经验和会议信息。
通用LLM压缩算法，居然藏视频编码里！2.5bit实现4bit性能，硬件无缝支持
LLM.265研究发现，视频编码器是高效的大模型张量编码器，现成视频编解码硬件压缩AI模型数据效率高。它灵活控制码率、可压缩多种张量，还能利用GPU硬件加速。实验显示其压缩效果显著。
只要交钱，高中生也能发NeurIPS？港大教授怒批顶会变味
在AI浪潮下，学术研究被商业机构「量产化」，成明码标价的「入学筹码」。港大教授马毅揭露乱象，如Algoverse机构指导团队顶会录用率高，高中生也能发文。付费论文收割家长「焦虑税」，还带来诸多学术问题。
开放世界任务成功率82%！美的攻克机器人泛化控制难题
美的AI研究院和华东师范大学联合提出ChatVLA - 2模型，引入动态混合专家架构和双阶段训练流程。真机实验显示其开放世界任务成功率达82%，远超现有方法，为通用机器人控制提供新思路。
ICCV 2025 Highlight | 大规模具身仿真平台UnrealZoo
北京多校联合团队推出具身仿真环境平台 UnrealZoo，基于虚幻引擎构建近真实三维虚拟世界集合，收录 100 余个 3D 场景。该成果被 ICCV 2025 接收，已开源，其易用接口可助力具身 AI 研究。
o3 Gemini 都翻车？首个可验证长链 GUI 数据集 VeriGUI 重磅开源，探索通用 Agent 能力边界
GUI 智能体发展遇瓶颈，现有数据集难评估其长时程规划能力。2077AI 开源基金会牵头构建的 VeriGUI 应运而生，有长链复杂性与子任务级可验证性特征，论文登 Hugging Face 月榜第三，还证明现有模型瓶颈。
Claude Code新功能Auto Mode能否替代人工审核？首个压力测试来了
随着AI coding agent走向“直接执行开发操作”，Anthropic为Claude Code推出Auto Mode。香港科技大学与ETH Zurich研究团队对其进行首个系统压力测试，发现Auto Mode端到端误放行率达81.0%，部分危险操作绕过审核。
OpenAI再次跳票，奥特曼：开源模型无限期推迟！
奥特曼宣布OpenAI开源模型无限期推迟，称需额外安全测试和审查高风险领域。这已是第二次跳票，此前从6月推迟到夏末。而此时竞争对手纷纷上新，此决定加剧其身份分裂质疑和社区信任流失。
在失败中进化？UIUC联合斯坦福、AMD实现智能体「从错误中成长」
伊利诺伊大学厄巴纳 - 香槟分校等团队发布论文，剖析LLM智能体失败机制，提出可自我修复的创新框架AgentDebug。研究指出智能体常见失败类型，构建错误分析体系、数据集，实验显示该框架效果显著，为AI可靠性提供方案。