「AI安全框架」共找到 11265 篇相关文章

开源动态8

你的AI“体检”了吗?开源AI红队测试平台,一键自查三大风险

AI圈一边是顶尖模型发布,一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台,能模拟真实攻击对AI产品全方位风险扫描,有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。

腾讯技术工程
算法论文8

一篇Graph+AI Agents最新技术综述

该综述提出分类框架组织Graph与AI Agents领域研究进展,详细探讨图技术在AI代理规划、执行、记忆和多代理协调等核心功能中的作用,还提及代表性应用、挑战和未来机遇。

PaperAgent
新闻资讯7

「2025 AI 实战手册」,年收入破亿的 AI 公司都在干什么?

硅谷 ICONIQ Capital 团队发布 2025 年度「The State of AI」报告,围绕 AI 产品落地,通过问卷收集 300 家 AI 公司高管回答,从开发、定价等五方面剖析 AI 产品端到端流程,还对比了 AI 原生和赋能型公司产品发展。

机器之心
新闻资讯7

AI自己造AI,概率60%,2028年底前!Anthropic联创坐不住了

Anthropic联合创始人Jack Clark读完数百份公开数据后判断,2028年底前AI自己造AI的概率达60%。他依据编程、科研复现等能力曲线,认为AI工程化生产组件基本齐全,不过AI研究的创意突破仍是关键。

新智元
推荐文章7

AI工具的真相与幻象:从客服看AI应用的理性边界

文章以某科技公司AI产品部门负责人张文的经历为例,讲述AI客服系统失败、AI编程助手成功的情况,指出AI应用存在期望与场景不匹配问题,还探讨了AI落地转变及组织搭建难题与解决办法。

InfoQ
新闻资讯7

黄仁勋放话:中国AI市场3年内达500亿美元!AI救了旧金山,整个世界急于与AI互动

黄仁勋最新判断,未来两到三年中国AI市场可达约500亿美元,错过是巨大损失。他还提到AI让旧金山复苏,虽会使部分人失业,但也创造新岗位。此外,英伟达财报值得期待,老黄获十年来首次加薪。

量子位
推荐文章8

为什么开发者放弃框架而选择原生 JavaScript

前端开发者正在回归原生 JavaScript。原生 API 和 AI 工具使其成为框架疲劳的解药,成熟的 API、性能考量、AI 助力、微前端与无构建架构兴起等因素促使开发者做此选择。

InfoQ
新闻资讯7

AI正在掏空大脑,思想沦为残废!未来只分AI的「主人」和「奴隶」

全世界为AI疯狂,它虽提供“认知捷径”,但长此以往并非好事。Section公司CEO Greg Shove分享使用AI经历,指出未来知识工作者将分化为“AI驾驶员”与“AI乘客”,并给出成为AI主人的方法。

新智元
推荐文章8

Anthropic 发布 AI Native 全流程实践指南

Anthropic应用AI团队发布实践指南,阐述如何将AI融入软件开发生命周期各环节。指出代码不再是瓶颈,构建快但周边流程慢。指南围绕六阶段展开,给出实施步骤、治理框架和度量指标。

AGI Hunt
开源动态9

DeepSeek开源推理框架,有人算出AI的毛利:82%

DeepSeek开源了支撑自身大规模推理服务的框架DeepInfer与配套token编解码组件deepseek-recipe,披露的吞吐量数据经计算得出大模型API毛利率达82%,引发AI行业对盈利性与推理优化的广泛讨论。

机器之心