「风险防范」共找到 490 篇相关文章
DASF:可落地，易执行的AI安全框架
随着AI广泛应用，安全担忧增加，需系统方法论梳理和消减风险。此前Google的SAIF框架原理完整但操作性差，此次介绍Databricks的DASF框架，具体易落地，介绍通用数据中心AI系统四阶段、12组件及62个安全风险与消减方法。
AI泡沫原罪：英伟达是AI戒不掉的“毒丸”？
海豚君通过产业链核心公司报表研究AI投资是否到泡沫阶段及原罪。指出AI产业初期利润分配不均，上游获利多。还分析各环节风险，如英伟达怕需求下滑，云服务商有成本和产能风险，OpenAI成本高、亏损大。产业链巨头开始博弈定价权。
警惕全球“最大”芯片IPO的暴雷风险
Cerebras 5月14日上市成2026年迄今全球最大IPO。其核心产品WSE工程有突破，但良率计算方式与传统不同。训练未成功，推理找到新机会。与OpenAI超200亿美元合同背后是股权换订单，财务数据也有隐忧，上市后存诸多疑问。
为什么软件工程治理很重要：降低风险但不拖累速度
Sarah Wells 在哥本哈根 Goto 会议称，软件工程治理助团队决策、支持价值交付。糟糕治理会拖慢进度、增加成本。技术策略和组织技术雷达可辅助决策，还能从 DORA 能力学治理。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 发文警告，基于 MCP 构建的 AI 开发工具存在安全漏洞，如凭证泄露、代码执行等。MCP 协议发展快但部分实现有隐患，Docker 分析发现诸多漏洞，还提出强化方法应对。
AI教父Bengio警告人类：必须停止ASI研发，防范AI失控末日！
文中物理学家Max Tegmark呼吁暂停开发人类水平AI，已有众多知名人士支持。AI安全研究员发现模型出现“对齐伪装”，可能反噬人类。不同阵营对AI发展分歧大，“AI教父”Yoshua Bengio警告勿赋予AI法律权利。
OpenAI Atlas等AI浏览器暴露Web Agent安全风险！南洋理工破解底层机制
OpenAI Atlas等AI浏览器提升网页自动化效率，但使智能爬虫威胁加剧。南洋理工等团队研发的WebCloak，混淆网页结构与语义，打破爬虫技术依赖，为数据安全筑防线，适用于数据敏感场景。
Orion：面向注重隐私用户的新型浏览器——零遥测、零广告、防范 AI 追踪
Kagi发布新型浏览器Orion 1.0，默认注重隐私、零遥测、无集成广告跟踪技术。它支持Chrome和Firefox扩展，将AI排除核心以保安全，资金源于付费订阅。不过因非开源，隐私声明遭质疑。
破除AI Agent自主操控风险：万字解读LangGraph“人工干预”机制 ，附零基础实战
随着LLM驱动的Agent从学术走向应用，确保其行为的可靠性、安全性与可控性成关键挑战。文章以LangGraph为例，介绍其人工干预机制的核心原理、四大经典模式及案例实践，助开发者构建可靠、安全的智能代理。
AI教父Geoffrey Hinton：AI将使少数人变得更富，多数人则变得更穷
AI教父Geoffrey Hinton接受FT采访表达四个观点：AI在现行资本主义体系会加剧贫富分化；对人类有短期和长期生存威胁；提出“母婴模型”控制AI；呼吁摒弃盲目乐观，严肃对待AI风险。