搜索：人工智能安全治理

「人工智能安全治理」共找到 1453 篇相关文章

从WAIC上爆火的功夫机器人，看到这家央企的具身智能「真功夫」

今年4月“功夫boy”机器人出圈，3个月后的WAIC上它全新升级。其背后是中国电信人工智能研究院（TeleAI），由李学龙教授带领。他们技术栈全面，在硬件、软件、数据等方面全栈自研，还布局智传网，未来发展潜力大。

多模态大语言模型在语义级任务表现卓越，但在感知级图像理解有短板。上海人工智能实验室等机构联合发布 UniPercept，构建感知属性定义系统与基准测试集，训练强基准模型，在多方面表现超现有顶尖模型，应用潜力大。

9月2、3日，Cursor和Claude Code分别发布功能，让AI Agent工具执行跑在用户网络而非云上，解决企业代码不出内网痛点。这标志AI编程工具进入to B基础设施之争，不过要关注安全信任问题。

卢森堡大学等研究探索小模型驾驭Skills的边界。工业界因数据安全渴望开源小模型，智能体Skills框架让小模型性能暴增。研究拆解小模型处理复杂任务的方法，还验证不同策略有效性，发现代码专用模型优势。

OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 开源模型，性能出色，如 120b 版本媲美 o4-mini，20b 版本能在笔记本甚至手机运行。采用 Apache 2.0 许可证，有多种特性与运行方式，还经安全分析。

Dagger团队发布开源工具Container Use，为AI编码代理提供容器化沙箱和Git工作树，实现无冲突并行工作流。它能创建隔离开发环境，让开发者在同一代码库安全运行多代理。不过该工具尚处早期，有不足。此外还介绍了其他类似工具。

本文介绍AI圈大佬Dario Amodei，因家庭变故投身AI。他带领Anthropic发展迅速，拟融资使估值达1700亿美元。不过公司亏损严重，且面临开源模型竞争。他坚信AI发展快，要加速开发并注重安全。

国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和起草人。该标准全流程覆盖、多方面融合、三方协作，能解决企业部署痛点，构建安全可信生态。

OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。

Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。