搜索：人工智能安全治理

「人工智能安全治理」共找到 1495 篇相关文章

9.8K Star！谷歌开源神器 OSV-Scanner，一条命令扫出所有依赖漏洞！

文章介绍谷歌开源的轻量级命令行工具 OSV - Scanner，它能扫描项目依赖中的已知安全漏洞，连接项目依赖与 OSV.dev 数据库。支持多语言、多包管理器，有多种功能，可离线使用，还能提供修复建议和许可证扫描。

上海人工智能实验室提出TPO方案，可让大模型在推理时快速对齐人类偏好，无需更新模型权重。TPO类似文本形式的梯度下降，在多个基准数据集评测中表现出色，还提供“宽深结合”推理拓展策略。

Telegram创始人帕维尔·杜罗夫推出专注机密AI计算的去中心化网络Cocoon，或终结中间商垄断。它基于TON区块链，有三层架构，四步完成AI查询，但面临延迟和竞争挑战，未来将采用DAO治理。

硅谷圆桌论坛指出，95%的AI智能体部署失败，原因并非模型不智能，而是基础框架、上下文工程等未成熟。还探讨了上下文工程实践、信任治理、记忆设计、多模型编排等问题，给出创业者需思考的问题。

上海人工智能实验室与复旦大学联合研究成果《Capability Salience Vector》获ACL 2025杰出论文奖。提出能力显著向量（CSV）解决验证损失与下游任务能力脱节问题，实验验证其提升了下游任务表现可预测性。

Anthropic推出Claude Fable 5.1和Claude Mythos 5.1。Fable 5.1面向普通用户等，Mythos 5.1面向高风险领域伙伴。Fable 5.1性能优、价格低，在多测试中表现提升，还能用于科研，且安全防护机制升级。

上海人工智能实验室开源MemVerse，这是首个面向智能体的通用多模态记忆框架。它将多模态信息与文本对齐到统一语义空间，首创‘双通路’架构与‘记忆蒸馏’技术，让智能体有终身记忆能力，在多模态任务中表现出色。

OpenAI官宣下一代旗舰模型GPT - 6 Astra，定义其为「世界上最智能、对齐程度最高」的模型。它多项基准测试成绩惊人，在编程、计算机使用等多领域表现卓越，还改写科研纪录，不过因安全能力强暂未全开放。

2025年三季度以来，全球存储芯片市场涨价，32GB内存条价格疯涨，分析机构预测后续还会再涨。国际存储巨头赚得盆满钵满，下游厂商叫苦。本轮涨价因人工智能兴起，中国存储芯片有被“卡脖子”风险，国产替代挑战大。

这是万字Claude Skills指南，从概念到实战。介绍了Skills是模块化能力包，有渐进式披露设计，对比了与MCP、Subagent区别，阐述其优势。还讲了创建、设计、使用方法及分类体系，提示安全风险并推荐资源。