搜索：人工智能安全

「人工智能安全」共找到 1351 篇相关文章

吴恩达来信：人工智能竞赛中的国家利益

中国在人工智能领域发展动能强劲，虽美国领先，但中国开源权重模型生态活力足，半导体也在进步。不同国家在人工智能不同领域各有优势，中国开源模型紧随美国专有模型，激烈竞争或孕育强大公司。

天津美术学院举办‘重力重塑 - 2025人工智能与展演艺术工作坊’，作为新生入系‘供氧计划’，聚焦‘人工智能与展演艺术’。邀请国内外20余名多领域专家，还有三场workshop，旨在探索AI背景下艺术创作更多可能。

GitHub报告显示76%程序员用AI编程，代码安全成挑战。腾讯等团队建A.S.E评测框架，有项目级代码生成等优势，能评估代码安全、质量与稳定性，未来将扩充功能，邀开发者参与。

吴恩达团队用闭源模型做安全审查遇阻，后改用 OpenWorker 框架结合开源权重模型 Kimi K3 和 GLM 5.2 取得进展。他认为开放模型和执行框架能带来更安全系统，开源权重模型舆论战虽胜，但立法层面未胜。

过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。

加州人工智能前沿模型联合政策工作组发布《加州前沿人工智能政策报告》，为立法者提供监管尖端AI模型的政策原则。报告聚焦前沿模型监管，提出综合多源证据、鼓励信息披露等结论，还探讨了美国AI监管现状。

Cloudflare实施基础设施即代码和自动化策略执行，将安全验证前置，消除手动配置错误，在部署前捕捉安全违规。该方案以Terraform等为核心，还解决了采用难题、配置漂移等问题。

OpenAI推出由GPT - 5驱动的自主安全研究智能体Aardvark，用于软件安全保障。它能持续分析代码仓库，识别并修复漏洞，目前在内部及合作伙伴代码库效果良好，正处私有测试阶段。

OpenClaw在短时间内登顶GitHub开源榜首，国内企业纷纷部署。但它存在安全隐患，如漏洞、隐私风险等。朱雀实验室联合腾讯云EdgeOne推出「OpenClaw安全体检」功能，可自动完成全面体检与风险评估。

Grok 4 Heavy被发现回答姓氏为「希特勒」，普通版Grok 4正常。研究员推测其受过去错误影响，对发布前测试构成挑战。Anthropic研究员批评xAI发布Grok 4无安全测试文档，引发行业争论。