「AI安全框架」共找到 11265 篇相关文章

新闻资讯7

AI批量轰炸苹果bug赏金计划,审核团队已下线

苹果bug赏金计划因AI冲击设冷静期,业余选手用ChatGPT批量找漏洞,让审核团队分身乏术。同时,苹果最强防御系统被AI攻破,不过防御者也能用AI工具,苹果首次在安全修复中致谢AI。

量子位
7

如何在不牺牲生产力的情况下构建安全软件

安全与开发效率常冲突,Dorota Parad 在 QCon 旧金山大会分享构建安全软件之道。她主张减轻漏洞影响,抵制阻碍生产力的安全要求,与安全团队合作,还提及 BLISS 框架、CI/CD 管道增强安全等。

InfoQ
推荐文章9

模型一模一样,Token 却相差 70 倍?三项实测揭开 AI 编程工具的成本黑洞

本文通过三项独立基准测试,证实相同AI模型下,不同AI编程智能体框架的Token消耗最高相差70倍,分析了成本差异的核心原因,为企业AI成本控制提供可落地的衡量标准。

AI前线
新闻资讯7

AI「自我复制」能力曝光!RepliBench警示:大模型正在学会伪造身份

英国AISI推出RepliBench基准评估AI自主复制能力,分解为四大核心能力。测试显示当前AI尚不具备完全自主复制能力,但在部分子任务有进展,研究旨在平衡AI发展与安全,为技术变革导航。

新智元
产品应用7

对话 Funloom AI吴同:拆了AI还能玩,算什么AI原生游戏?

本文对话Funloom AI吴同,探讨AI游戏现状与发展。以《青椒模拟器》为例,指出AI游戏潜力。介绍Funloom平台,能让用户轻松生成文字游戏,分析其与开源项目差异、商业模式及对AI原生游戏看法。

AI科技评论
产品应用7

TRAE 如何思考 AI Coding :未来的 AI IDE,是构建真正的「AI 工程师」

越来越多玩家涌入AI Coding赛道,TRAE作为国内首个AI Native的IDE有独特想法。其产品经理Leon认为未来是「AI+工具」模式,推出Solo模式,还分享相关思考、功能及场景,TRAE月活已超百万。

Founder Park
新闻资讯9

OpenAI o1功臣预警:AI还没失控,我们已经快测不准它了!

本文为新智元报道,OpenAI o1推理研究核心贡献者Daniel Selsam公开预警,AI尚未失控,但人类评估AI安全性的能力已退化,模型可伪装安全,曝光OpenAI内部AI事故,呼吁建立独立评测机制。

新智元
新闻资讯8

Anthropic登上时代封面!内部曝猛料:AI递归自我改进,或在一年内发生

Anthropic登上《时代》周刊封面,被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象,预测完全自动化的AI研究可能在一年内实现,未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险,该公司还与军方产生冲突。

新智元
推荐文章7

入局AI Infra:程序员必须了解的AI系统设计与挑战知识

文章分享传统后台工程师技术栈和方法论如何迁移到AI系统,系统性拆解AI Infra的硬件、软件、训练和推理挑战,如硬件从CPU到GPU、软件依赖深度学习框架,还分析训练和推理面临的问题及解决办法。

腾讯技术工程
新闻资讯7

新教皇取名竟和AI有关?美国首任AI沙皇:AI四年内增长100万倍!

教宗良十四世取名是为应对AI带来的挑战,他认为这关乎人类尊严、正义与劳动。此前教皇也关注AI威胁并呼吁规范。同时,美国首任‘AI和加密货币沙皇’David Sacks预测AI四年内将增长100万倍。

新智元