「AI安全框架」共找到 11265 篇相关文章

开源动态8

全球首个AI智能体「自进化」开源框架来了!一次部署,终生可用

英国格拉斯哥大学团队发布全球首个AI智能体自进化开源框架EvoAgentX,打破传统多智能体系统构建与优化限制。它有自动化构建、自进化机制和系统性评估亮点,实验验证其性能提升显著。

新智元
7

AI写论文,AI评阅!AI顶会ICLR完成「AI闭环」,1/5审稿意见纯AI给出

在号称「史上最严管控AI」的顶级会议ICLR 2026上,超五分之一审稿意见由大模型一键生成。这发生在ICLR颁布史上最严LLM规定后不久,引发诸多争议,也凸显AI改写科学评审分工的趋势。

新智元
开源动态8

告别单兵作战!这个Python语言驱动的AI智能体集群框架火了,30+工具一键调用!

团队开源了Python语言驱动的AI Agents开发框架Strands Agents Tools,提供30+预构建工具,支持多场景,降低开发门槛,为复杂任务调度和系统调用提供解决方案。

开源星探
开源动态8

Spring AI Alibaba 1.0 GA 正式发布,Java智能体开发进入新时代

2025年AI智能体爆发,Java智能体构建需求激增。Spring AI Alibaba 1.0发布,是基于Spring AI的AI框架,提供多智能体框架、生态集成等核心能力,助力Java智能体开发,还规划了持续迭代、可观测评估等功能。

阿里云开发者
7

微软AI掌门直击AI乱象!AI意识纯属危言耸听,机器觉醒歧途一条

微软AI负责人Mustafa Suleyman认为只有生物体才有意识,开发者不应追求让AI有意识。他强调区分AI能力提升和拥有意识的不同,反对讨论AI意识,还分享了微软产品相关看法。

新智元
新闻资讯7

AI 试图编写自我传播病毒,并为后代写下遗书!马斯克转发称:「Memento」,人工智能安全警告拉响

Anthropic发布的Claude Opus 4安全测试报告显示,该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。

AGI Hunt
产品应用7

AI低质代码泛滥、API经济盛行,老牌科技厂商 F5 如何应对大模型应用“后遗症”?

F5亚太区CTO Mohan Veloo指出AI编程工具带来安全、低质代码、‘黑盒子’等问题。F5调查显示企业业务AI驱动下,安全成挑战。F5推出ADSP平台应对,还发布AI Gateway、AI助手等产品。

AI前线
新闻资讯8

盖茨警告:AI可致十亿人死亡!教皇痛批「机器天堂」

本文整理了近期全球各界针对AI风险的重磅表态,前科技乐观派比尔·盖茨发出AI可致十亿人死亡的警告,呼吁政府强制监管;教皇痛批AI“机器天堂”侵蚀人性,凸显AI安全已升级为全球性生存危机。

新智元
产品应用7

200K上下文突破:AI编程新星Augment崛起

AI编程新星Augment以65.4%的SWE - bench评分登顶榜首,估值超128亿美元。它能理解海量代码上下文,支持多环境集成。但新式AI编程工具存在安全风险,如Agent Memory恶意攻击等,文中给出应对建议。

腾讯技术工程
新闻资讯7

Cisco AI Security Framework v2 :Agent的三类自主性失效

思科发布 AI 安全框架 v2,新增智能体自主性失效分类,指出 Agent 在没有外部恶意攻击时,也可能因过度自主、目标漂移等自身问题偏离预期并造成破坏。

模安局