全链路解决方案」共找到 3206 篇相关文章

产品应用8

MoE推理「王炸」组合:昇腾×盘古让推理性能狂飙6-8倍

在通往AGI进程中,MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型,经多方面优化,推理性能提升6 - 8倍。还采用多种策略和算法,在昇腾不同平台展现卓越性能,为大模型落地提供支撑。

机器之心
开源动态8

重磅开源!首个全异步强化学习训练系统来了,SOTA推理大模型RL训练提速2.77倍

清华大学和蚂蚁技术研究院联合团队开源全异步强化学习训练系统 AReaL-boba²,坚持“全面开源、极速训练、深度可定制”理念,实现异步 RL 训练,训练速度最高提升 2.77 倍,支持多轮智能体强化学习训练。

机器之心
新闻资讯7

优步针对微服务和大规模计算工作负载完成了大规模的 Kubernetes 迁移

优步成功将计算平台从 Apache Mesos 迁至 Kubernetes,覆盖多数据中心和云环境。工程团队详述迁移挑战、方案与教训。虽遇技术、文化难题,但迁移后运营效率等提升,为大公司提供借鉴。

InfoQ
推荐文章8

逆向工程:ChatGPT 的记忆是如何工作的

文章是工程师eric对ChatGPT记忆系统的深度逆向工程和技术实现推测,详细拆解‘可保存记忆’和‘聊天历史’,分析工作原理、实现方案,探讨其对提升用户体验的作用,认为‘用户洞察’是关键。

AI寒武纪
推荐文章7

彻底说清 Human-in-the-Loop:企业级 Agent 系统的关键挑战与LangGraph解法【上】

文章围绕企业级Agent系统中Human-in-the-Loop(HITL)展开,介绍其必要性、常见模式,以LangGraph为框架解读关键挑战与实践,涵盖核心机制、原理解析,还阐述HITL下工具调用的两种管控模式。

AI大模型应用实践
开源动态8

最新W4A4KV4全量化框架,单卡A100大模型推理速度飙升

计算所王颖研究员团队等联合在ASPLOS 2025上发表并开源COMET框架,通过系统 - 算法协同优化,实现全4比特推理性能突破,在多方面有技术亮点,实测性能碾压现有方案且已开源。

AIGC开放社区
开源动态8

13K star!这个项目太顶了,自动化 API,后台作业,工作流,UI开发,低代码一网打尽!

日常开发构建和管理内部工具费时费力,第三方方案费用高。开源项目Windmill是开发者福音,能将脚本自动转换成工作流程和UI,适用多场景,有自动UI生成等特色,安装使用简单。

开源先锋
开源动态7

微软开源多智能体自定义自动化工作流系统,加速搭建基于AI的自动化系统

微软开源多智能体自定义自动化工作流系统,可助企业用AI智能体实现复杂组织任务自动化。该方案整合多项Azure服务构建管道,有聚焦核心价值等功能,还给出部署指南与成本估算。

GitHubStore
开源动态8

完全开源的7B模型,性能比肩主流LLM,训练成本仅16万美元,复现DeepSeek的强化学习!

Moxin-7B由多机构团队联合开发,遵循“开源科学”原则,公开全流程细节。它训练成本仅16万美元,评测表现亮眼,在架构、数据策略、训练过程等方面有创新,为中小企业提供可控AI方案

AI科技大本营
开源动态7

字节开源DreamO,一个框架包揽多种图像定制需求

近期图像定制研究展示大规模生成模型潜力,但多数方法通用性有限。字节提出DreamO框架,支持多种图像定制任务,有特征路由约束机制,能解决特征冲突,还介绍其技术原理与各任务效果。

带你学AI