「安全性能」共找到 2737 篇相关文章
AI是否足够的中立？宾夕法尼亚大学发现AI训练数据中的隐形偏见
宾夕法尼亚州立大学和俄勒冈州立大学研究发现，普通用户难察觉AI训练数据中种族与情绪绑定的偏见，直到AI性能表现出明显偏见才会警觉。不同族裔对偏见感知有差异，黑人更易识别。
Copilot强塞马斯克Grok新模型，遭开发者集体“抵抗”！GitHub内部工程师曝：我们是被“胁迫”的
微软旗下 GitHub 深化与 xAI 合作，将 Grok Code Fast 1 整合进 Copilot。但 GitHub 内部举报人指其安全测试不足、团队被‘胁迫’。此引发开发者‘抗议’，部分要求撤销合作，也有人看好合作价值。
英伟达推理服务器被曝高危漏洞，云端AI模型被攻击直接裸奔
安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链，可组合利用实现远程代码执行，造成模型被盗、数据泄露等后果。英伟达已发布补丁，25.07版本前系统有风险。
狂涨 10.3k star！共享虚拟浏览器，太酷了！
今天分享项目`Neko`，是基于Docker的虚拟浏览器，用WebRTC技术服务。能在安全隔离环境上网、浏览、运行程序，适合和人共享页面，可一起观影、购物、协同工作，目前在Github获10.3K star。
无需训练，如何提升黑箱VLM？CARPRT用「类别感知」给出答案
近年来，视觉 - 语言模型（VLMs）改变图像理解范式，但零样本分类性能对 Prompt 敏感。墨尔本大学 TMLR 小组提出 CARPRT 方案，以“无训练、黑箱适配、类别专属权重”解决提示词语义适配不足问题，已被 ICLR 2026 接收。
又一个开源 AI Agent 杀到！II-Agent，号称“全球最强”，击败 Genspark 和 Manus，跑分直逼人类
AI Agent 赛道迎来新成员 II-Agent，由 Intelligent Internet 团队打造且将开源，获前 Stability AI CEO 站台。它性能强、可扩展，GAIA 跑分亮眼，团队认为未来是 Agent 群的天下，还计划为多领域构建开源 Agent。
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
AI地理学家诞生：麻省理工、斯坦福用多智能体框架重塑地理空间建模，刷新SOTA
麻省理工、慕尼黑工大及斯坦福AI实验室发布GeoEvolve框架，深度融合地理知识与进化算法，实现复杂地理空间模型自动发现与优化。经实验验证，其性能超越以往基准，有望在多领域发挥作用。
Identity-GRPO：阿里开源多人物定制化视频生成的后训练优化算法
阿里团队提出Identity - GRPO算法解决多人物视频生成身份一致性问题。构建约15000个标注样本数据集，基于Qwen2.5VL设计奖励模型，多项策略增强训练稳定性，实验验证性能提升显著。
通义团队提出环境Scaling：自动构建环境，并自主学习和成长，可让30B比肩1T效果
阿里巴巴通义实验室团队论文提出通过程序化、自动化构建模拟环境，让语言模型自主交互学习。基于此训练的AgentScaler模型，数十亿参数就达万亿级模型性能，为轻量级代理智能发展带来新可能。