「AI安全框架」共找到 11288 篇相关文章

开源动态8

只训练数学,却在物理化学生物战胜o1!新强化学习算法带来显著性能提升,还缓解训练崩溃问题

上海创智学院、上海AI Lab的MM - Eureka系列工作提出新强化学习算法CPGD,缓解训练崩溃问题,提升性能。还构建多模态强化学习框架,推出MMK12数据集和MM - PRM模型,开源相关成果。

量子位
新闻资讯7

超700人预约,昆明一门店免费安装!不少线下数码门店迎来大量用户,“小龙虾”火爆出圈!

一款名为OpenClaw的AI智能体因图标是红色卡通龙虾被称为“小龙虾”而火爆。昆明线下数码门店有用户咨询、预约安装,超700人预约。它能自动完成操作,但存在技术门槛和数据安全风险,国家相关部门已发布提示。

昆明走进自然户外
推荐文章8

2026企业级智能体白皮书|甲子光年智库

随着大模型发展,人工智能从Chatbot转向Agent形态,OpenClaw等开源框架在消费级市场出色,但企业级应用需安全性、稳定性与管控边界。九科信息bit - Agent是企业AI进化“元枢纽”,白皮书为企业决策提供参考。

甲子光年
开源动态8

阿里开源AgentScope 1.0,多智能体从开发到部署一条龙服务

大语言模型发展下,多智能体系统开发面临诸多难题。阿里通义实验室开源AgentScope 1.0框架,以开发者为核心,有三层解耦架构,模块化设计,还解决安全和管理问题,在工程化特性上优势明显。

AIGC开放社区
推荐文章8

从传统编程转向大模型编程

文章指出大模型编程时代,开发者要从‘代码产出者’变为‘文档定义者’,介绍其优势、人+AI结对编程模式,还提及模型工具技巧、开发流程、常见陷阱及应对策略,强调文档驱动和安全合规。

阿里云开发者
开源动态8

英伟达开源深度研究引擎:企业级数据不出门,研究自动做

NVIDIA推出AI-Q Blueprint,将深度研究流水线打包成Agent Skill,解决企业级数据处理难题。它能让企业数据不出门,代理框架可派任务并获报告,还支持多种认证模式,代码库可本地部署,专为深度研究打磨。

AIGC开放社区
新闻资讯8

最懂英伟达的CoreWeave,为啥突然花钱买了个强化学习作坊?

算力巨头CoreWeave市值达483.9亿美元,收购专攻强化学习训练AI智能体的OpenPipe。CoreWeave想打造全能平台,此前已收购W&B,此次收购标志其涉足智能体核心训练环节。OpenPipe的ART框架有独特优势。

AIGC开放社区
新闻资讯7

监管叫停外资收购Manus背后,有一个被忽视的关键问题|甲子光年

4月27日,国家发改委叫停外资收购Manus项目。该项目从2025年12月Meta宣布收购起备受关注。此次监管选择外商投资安全审查路径,预示AI时代监管侧重技术控制权,也可能加速VIE架构消亡。

甲子光年
推荐文章7

为什么95%的智能体都部署失败了?这个圆桌讨论出了一些常见陷阱

硅谷圆桌论坛指出,95%的AI智能体部署失败,原因并非模型不智能,而是基础框架、上下文工程等未成熟。还探讨了上下文工程实践、信任治理、记忆设计、多模型编排等问题,给出创业者需思考的问题。

机器之心
算法论文8

System 3 觉醒:从“工具”到“物种”的根本改变

西湖大学与上海交大新论文提出System 3概念及Sophia框架,将认知心理学概念映射到代码模块,让AI Agent像“生命体”生存。采用前向学习和混合奖励机制,实验显示其能力显著进化,为人工生命指明道路。

深度学习自然语言处理