部署模拟」共找到 929 篇相关文章

开源动态8

Day0迁移、一键部署,华为开源的昇思MindSpore成为大模型开发的“万能钥匙”

在大模型无法一统天下的背景下,开发者面临在一个框架、生态体验众多主流大模型和AI技术的难题。华为开源的昇思MindSpore可实现训练Day0迁移、推理一键部署,还介绍了其相关技术和实测效果。

量子位
开源动态8

百川开源医疗增强大模型 Baichuan-M2:更符合中国临床诊疗场景,可 4090 单卡部署

百川智能发布并开源医疗增强大模型 Baichuan-M2,以更小尺寸反超 OpenAI 新模型。它可 4090 单卡部署,成本低,在 HealthBench 评测表现佳,免费开源,更适配中国临床诊疗场景。

InfoQ
8

重磅!OpenAI官宣自研AI芯片:垂直整合要彻底摆脱英伟达,联手博通部署10吉瓦算力

OpenAI与博通达成深度战略合作伙伴关系,共同设计和制造AI芯片与计算系统,合作已秘密进行约18个月,目标是2026年底部署10吉瓦算力,还在用模型探索芯片设计新方法。

AI寒武纪
开源动态8

SGLang Team:在 96 个 H100 GPU 上部署具有 PD 分解和大规模专家并行性的 DeepSeek

本文介绍 SGLang 团队在 96 个 H100 GPU 上部署 DeepSeek 的方法。利用 PD 分解和大规模专家并行性,SGLang 实现高吞吐量,成本低。博客探讨并行设计、优化方法,所有组件开源,也指出了当前局限与未来方向。

GiantPandaLLM
推荐文章7

当10亿个AI一起模拟未来:李飞飞和Karpathy共同押注的新赛道|5Y Research

本文聚焦Multi - Agents模拟预测这一AI前沿方向,介绍其发展、原理、应用场景及代表公司。它能为人类社会建可反复运行的“世界模型”,虽潜力大,但面临验证难、技术瓶颈等问题。

五源资本 5Y Capital
新闻资讯8

突发!OpenAI推出首款自研AI芯片:能效暴打当前SOTA,今年底G瓦级部署

OpenAI和博通联合发布自研AI推理芯片Jalapeño,它专为大模型推理设计,每瓦性能优于当前最先进水平,九个月完成设计制造,是全栈战略一部分,2026年底开始吉瓦级部署

AI寒武纪
产品应用8

三星研究院发布手机端侧大模型MeKi:基于Memory的LLM扩展新范式,支持旗舰手机端侧部署

三星研究院发布端侧大模型架构MeKi,提出用存储空间扩展模型容量、提升LLM性能的新范式。它利用手机ROM缓解内存压力,实现容量与性能提升。实验显示其性能、效率表现优,为边缘部署LLM提供新思路。

AI科技评论
新闻资讯7

初稿抢先看!13家单位共同起草全国首部AI大模型私有化部署标准智合标准化建设

由智合标准中心组织起草的《人工智能大模型私有化部署技术实施与评价指南》团体标准立项,这是国内首部相关标准。它全流程覆盖、多方面融合、三方协作,能解决企业痛点,现征集起草单位和人,5月15日开研讨会。

AI工程化
开源动态8

功能强到离谱!开源 3D AI 桌面伴侣来了,可直接部署到B站直播间等平台!

开源项目 Super Agent Party 颠覆对‘桌宠’认知,它是 AI 智能体平台,有知识库、联网等能力,可部署到多平台。具备无缝能力增强等核心功能,提供多种安装选项,应用场景丰富。

开源星探
新闻资讯7

Meta被骂跑偏后摊牌!Alex Wang回应新团队目标:个人Agent全球化部署,Manus已在应用上开路

Meta超级人工智能实验室(MSL)负责人Alexandr Wang发声,称其任务是推动超级智能技术突破并做成产品推向数十亿用户,要把个人Agent全球化部署,还谈到与研究和产品平衡、Meta的AI思路等问题。

AI前线