搜索：人工智能安全

「人工智能安全」共找到 1354 篇相关文章

天使轮数千万元融资，这家公司想成为 AI 时代用户的安全执行顾问

主打认知安全的缔零科技获数千万元天使轮融资，资金用于「缔零法则」技术迭代等。其产品以AI治理AI，降本增效。公司曾推「缔零智数」，现「缔零法则」把控模型推理。未来有ToC计划，想成用户安全助手。

近日，独立开发者 gavrielc 制作的开源 AI 助手 NanoClaw 火了。它核心代码仅约 500 行，实现 OpenClaw 同等核心功能。相比原版 Clawdbot 代码量大减，还解决了 OpenClaw 安全架构问题，是其安全替代方案。

随着基于LLM的多智能体系统崛起，其安全隐患凸显。中国科学技术大学等机构提出G - Safeguard安全防护框架，它基于图神经网络，通过构建多智能体话语图等方式，能有效抑制恶意信息传播，有强大防御和泛化能力。

2025年中国科学院院士增选结果公布，计算机领域的清华大学刘云浩教授、人工智能领域的南京大学周志华教授当选。文中介绍了两人履历、科研成果，也展现我国AI研究飞跃突破。

国务院发布意见深入实施“人工智能+”行动，推动其与各行业领域融合。提出到2027年、2030年和2035年的目标，部署重点行动，强化基础支撑能力，明确组织实施要求。

作者结合黑帽大会英伟达演讲，指出大语言模型和编程智能体扩大攻击面。如攻击者利用公共资源留恶意指令，实施水坑攻击。强大编程智能体虽普及，但易造成安全漏洞，虽有防御措施但效果有限。

2025云栖大会上，阿里巴巴集团CEO吴泳铭认为实现AGI是确定事件，终极目标是超级人工智能ASI。他介绍了通往ASI的三阶段，还判断大模型是下一代操作系统，超级AI云是下一代计算机。阿里云也升级全栈AI体系，通义大模型7连发。

基于人工智能的结构力学研究因多领域融合取得进展，突破传统瓶颈。《力学学报》组织专题含6篇论文，展示我国科研人员在该领域结合的最新成果，多位专家参与，介绍了专题相关研究及期刊信息。

科技巨头股价攀升、惊人 IPO 重现，让人想起互联网泡沫时代。作者探讨人工智能热潮是否会演变为泡沫，分析了当前与九十年代的异同，指出虽有泡沫迹象，但也存在差异，一切仍不确定。

Docker 发文警告，基于 MCP 构建的 AI 开发工具存在安全漏洞，如凭证泄露、代码执行等。MCP 协议发展快但部分实现有隐患，Docker 分析发现诸多漏洞，还提出强化方法应对。