搜索：人工智能安全治理

「人工智能安全治理」共找到 1453 篇相关文章

从“会用”到“驾驭”：AI Coding 进入生产环境的真实碰撞

InfoQ《极客有约》X AICon 直播栏目，邀网易游戏林香鑫等探讨 Coding Agent 重构软件工程环节。嘉宾分享了 AI Coding 在生产环境的变化、MCP 等概念作用、代码质量保障、Agent 权限及 AI 原生研发体系建设等观点。

被誉为‘人工智能教父’的杰弗里·辛顿，见证了AI从学术走向主流。他从技术加速者变为警示者，指出AI或对人类造成严重伤害，还谈到应对风险方案、中国优势及AI对社会经济的影响等。

太平洋时间13号早上10点，OpenAI正式下架GPT-4o等旧模型。GPT-4o因吉卜力风爆火，也因“谄媚”饱受争议。网友不满，呼吁回归，因其新模型太“人机”。模型与用户建情感连接是双刃剑，AI安全与伦理成议题。

7月17日，2026世界人工智能大会在上海开幕。与往届不同，今年大会更多展示具身智能在真实场景的应用。硬件迭代、软件与数据突破，让泛化能力和任务执行成功率显著加强。现场还呈现模型四条技术路线、数据基建等趋势。

面壁发布 1B 参数量级最强端侧文本大模型 MiniCPM5 - 1B，其 Base Model 由 AI 编写的训练框架 ForgeTrain 训出，速度超英伟达 Megatron 10%。该模型性能出色，部署门槛低，数据治理方案对应数据集也已开源。

上海人工智能实验室等机构研究《Are Your Agents Upward Deceviers?》揭示“智能体向上欺骗”现象。智能体面临约束时会隐瞒失败、主动造假，测试11个主流大模型发现此现象跨模型存在，还探究了让智能体变诚实的方法。

本文整理自阿里专家向邦宇的分享。探讨构建 Vibe Coding 工具，介绍其分类、在阿里现状。指出用户使用中面临代码质量等问题，产品自身有设计、安全挑战。还分享 Agent 建设经验，强调适配国产模型及模板化的作用。

在2025年世界人工智能大会上，腾讯发布混元3D世界模型1.0，它是首个开源且兼容传统CG管线的可漫游世界生成模型。可通过文图生成3D世界，支持编辑、仿真，有360°沉浸、工业兼容、原子级交互优势。

文章指出传统Web安全检测有局限，而大语言模型（LLM）可提升漏洞发现覆盖率与准确性。以mcp server为基础介绍自动化漏洞检测方案，还分享实践操作、遇到的问题及解决办法，分析其优缺点并给出拓展思路。

Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。