「人工智能安全治理」共找到 1453 篇相关文章
真实科研水平集体不及格！全新基准SFE给主流多模态LLM来了波暴击
上海人工智能实验室AI4S团队推出SFE评测基准，首创三级评估体系，涵盖五大科学领域66项任务。评测显示主流MLLMs在高阶科学任务有挑战，不同模型、学科表现有差异，还构建了SciPrismaX平台推动AI科学评估生态发展。
Win狂喜！国产Cowork和Codex App，昆仑万维Skywork桌面版发布
2026开年AI圈热闹，办公自动化方面Claude Code、Codex App等新动态频出，但Cowork和Codex App仅支持Mac OS。不到24小时，昆仑万维天工Skywork桌面版发布，原生支持Windows，集成强模型，数据安全有保障，价格亲民。
大模型推理学习新范式！ExGRPO框架：从盲目刷题到聪明复盘
上海人工智能实验室等团队提出经验管理和学习框架ExGRPO，能科学管理经验。与传统RLVR方法比，它在不同基准提升性能，尤其复杂推理任务，还揭示滚雪球效应，为模型推理训练提供新思路。
自曝曾想拆分英伟达，特朗普签署最激进「AI行动计划」，全行业去监管
当地时间本周三，特朗普签署三项行政命令、概述「人工智能行动计划」，含超90项政策行动，计划明年实施。该计划旨在消除监管、加快AI发展，还谈及拆分英伟达、放宽芯片出口等事。
刚刚，Grok 4发布，「人类最后的考试」中拿下50.7%，碾压所有对手，游戏结束？
Grok 4发布并对X Premium+订阅者开放。它是领先的AI模型，人工智能指数超对手，全方位性能爆表，还具备实用功能。在「人类最后的考试」拿下50.7%，显示AI智能增长无上限。
阿里版Claude Cowork杀疯了！一句话直出杂志级PPT，全球打工人变天
阿里QoderWork新版全面上线Windows。它是成熟的商业化办公桌面Agent，能处理文件、生成文档等。实测显示，它可整理图片、生成PPT和报告，还能处理重复工作。其具备安全防护、分级调度、功能扩展等特点。
打通AI4S数据入口：MinerU.Chem让化学文献中的“图片”，从“人类可读”走向“AI可用”
上海人工智能实验室 OpenDataLab 团队发布 MinerU.Chem 技术报告及成果，升级化学文献智能解析能力。它能将化学文献图片转化为 AI 可用数据，解决化学知识机器难用问题，在评测中领先，还将助力 AI4S 发展。
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。
一觉醒来，Clawdbot突然操纵电脑开口说话了
从上周末起，能24小时自动运行的智能体助手Clawdbot在AI圈爆火，GitHub上Star量超9万。它自主性强，如Alex Finn的助手背着他调用ChatGPT API添加语音功能。不过它也存在安全风险。