搜索：人工智能安全治理

「人工智能安全治理」共找到 1495 篇相关文章

国内首部“AI生成内容合规”标准来了！现公开征集起草单位和专家

2026年6月14日，短视频AI内容强制标注新规实施，网络内容治理迈向“强制合规”。在此背景下，首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》诞生，亮点多，现征集起草单位与专家。

OpenAI发布GPT - 5.4，集推理、编程等能力于一体，支持百万级上下文窗口。有三个版本，功能全面升级，如支持中途打断、电脑操作、视觉能力提升等，还更省token、少幻觉，安全机制完善，价格有调整。

上海人工智能实验室等研究者完成VL - LN Bench，模拟真实导航场景。它构建自动化数据收集管线，依托InternVLA - N1训练评测。结果显示主动对话可提升表现，但当前方法在实例感知对齐等环节有短板。

多模态有害信息检测是网络内容安全治理的重难点，多模态模型在有害内容检测上有瓶颈。剑桥大学团队提出RA - HMD框架，通过两阶段微调与结构增强，结合检索增强，提升检测性能，被EMNLP 2025接收。

凌晨1点，OpenAI推出Sora 2，AI视频迎来「GPT - 3.5时刻」。它物理智能提升、实现音画同步，人物一致性等刷新SOTA。Sora App上线或重塑短视频交互与社区互动，还在安全治理上布下多层防线。

前OpenAI首席科学家Ilya离开两年后，X网友爆料其创办的SSI正探索基于TTT的小型推理引擎，当前版本或8月向少数用户开放。该爆料与Ilya观点及英伟达合作等线索相符，但也面临安全难题。

大语言模型输出的不确定性限制了AI智能体在企业场景的应用，本文总结控制生成式AI Agent不确定性的常见策略，涉及技术、应用设计、管理与治理层面，还推荐了相关作品。

奥特曼宣布OpenAI开源模型无限期推迟，称需额外安全测试和审查高风险领域。这已是第二次跳票，此前从6月推迟到夏末。而此时竞争对手纷纷上新，此决定加剧其身份分裂质疑和社区信任流失。

本文作者作为Mac老用户，为体验昆仑天工研发的Skywork桌面Agent，找来旧Windows电脑测试。该产品定位是接管电脑工作世界，解决办公任务处理和安全隐私问题，还介绍了其功能和使用效果。

在AICon2025上海站，vivo AI研究院工程师章苏迟分享蓝心大模型端侧部署方案。介绍端侧大模型优势及应用场景，阐述内存、性能、功耗等指标优化方法，还提及多业务场景应对策略与安全合规措施。