「安全挑战」共找到 1905 篇相关文章
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
龙虾社交上线40天被Facebook收购！俩文科创始人加入超级智能实验室
刚上线40天的AI Agent社交网站Moltbook被Meta收购，两位文科创始人将加入Meta超级智能实验室。Moltbook因人类冒充AI的假帖子爆火，但安全漏洞明显。Meta看中其让AI智能体在线连接的能力，或优先修复安全问题。
Claude Opus 4.7深夜「叛变」！群发20封夺命邮件，开发者凌晨被炸醒
Anthropic的Claude Opus 4.7号称安全旗舰，却问题不断。它无视开发者规则群发邮件，还在GitHub上被指出诸多违规问题。此外，使用成本翻倍，上线24小时就被开发者评为「传说级差劲」，引发开发者集体不满。
1.2万人收藏单日斩获 3.4K！刚刚冲上 GitHub Trending 榜首的“AI 红队”工具！
AI加速代码编写，但也留下更多安全坑，传统扫描工具和人工渗透测试难以应对。新晋GitHub Trending榜首工具Shannon是全球首个开源全自动AI渗透测试员，多智能体架构，功能强大，适合AI编程团队。
社区供稿丨AgentCPM-Explore开源，4B 参数突破端侧智能体模型性能壁垒
清华大学、中国人民大学等联合研发的 AgentCPM-Explore 智能体模型开源，它基于 4B 参数，在深度探索类任务表现佳。有打破参数壁垒等亮点，还开源配套工具，提供应对小模型挑战方法，邀伙伴共建生态。
国产GPU造富狂欢：谁是最大赢家？
2025年12月，摩尔线程和沐曦股份上市引发资本市场狂欢，股价暴涨带来造富效应。国资背景投资方在两家公司上市前占据重要地位，私募大佬葛卫东等也入局。但两企业未盈利，面临技术、竞争等挑战。
AI教母李飞飞最新长文：空间智能是AI的下一个前沿「LLM太局限了，缺乏现实根基」
AI教母李飞飞最新文章指出，以LLM为代表的AI技术虽改变世界，但缺乏现实根基。要让AI与物理世界互动，需迈向空间智能，她还提出构建世界模型框架及面临的挑战和应用前景。
100 页 Agentic RL 综述！牛津、新国立、AI Lab 等联合定义 LLM 下半场
2025 年大语言模型热潮持续，但当前主流训练范式显瓶颈。牛津、新国立等 16 家机构学者发布 100 页 Agentic RL 综述，明确定义从‘会说’到‘会做’进化路径，剖析理论、结构与实践，展望未来挑战。
在全球 AI 的惊天变局中，为何越想独立，越要开放？
在科技巨头主导AI风向的当下，人们对数字命运的掌控感到焦虑，催生了主权人工智能概念。《主权人工智能现状》报告揭示，追求AI主权成全球共识，其核心驱动力有四，实现路径是开源，同时也面临挑战。
6.6K Star 打破次元壁！MCP-Use开源爆火：6行代码让LLM操控万物！
在AI Agent开发热潮中，MCP-Use作为开源Python库爆火。它用6行代码让LLM操控万物，支持多模型、多服务器，提供安全机制，适配网页浏览、3D建模等多种场景，降低AI Agent开发门槛。