技术问题」共找到 5485 篇相关文章

新闻资讯8

SGLang 推理引擎的技术要点与部署实践|AICon 北京站前瞻

SGLang 是开源推理引擎,截至 2025 年 6 月,GitHub 近 15K Stars,月均下载量超 10 万次,被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升,他分享关键技术等内容,6 月 27 - 28 日他将在 AICon 演讲。

InfoQ
新闻资讯7

一篇文章告诉你:国产 GPU 背后的技术和商业路线异同

过去两年,国产 GPU 赛道进入公开财务与审视阶段。文章分析了摩尔线程、沐曦等企业不同技术与商业路线,如摩尔线程走“高启动+快扩张”,沐曦选“厚积薄发+先服务高端算力场景”等。

芯师爷
算法论文7

Megatron 1F1B流水线并行中的负载不均衡问题研究

文章分析Megatron 1F1B流水线并行中负载不均衡问题。通过实验发现通信时间‘一短一长’,原因是最后一个Stage计算慢致不同步,额外计算引发通信延迟,还梳理了流水线各阶段执行过程。

GiantPandaLLM
新闻资讯8

智源发布 2026 十大 AI 技术趋势:世界模型成 AGI 共识方向

2026年1月8日,智源研究院发布《2026十大AI技术趋势》,指出AI演进核心从语言学习转向理解物理世界秩序。报告阐述了AI从数字迈向物理世界的三条驱动主线,并给出十大趋势,为行业提供布局锚点。

AI前线
推荐文章8

KV-Cache 实战策略:生产环境中的分页、固定与复用技术解析

在大语言模型推理场景中,KV - Cache 是平衡性能与成本的核心技术,但生产环境中面临诸多问题。本文聚焦其分页、固定与复用三大战术,结合原理、实践与案例,为开发者提供解决方案,还探讨了未来演进方向。

CourseAI
产品应用7

用最简单的大模型技术打造一个迁云专家有多难?

文章探讨在云迁移领域用大模型技术“复制”专家80%核心能力。分析标准化方案不足及简单RAG局限,介绍“LX0.1”AI专家助手构建,还提及分层评测、人机协同等优化,最后展望AI在云迁移的未来方向。

阿里云开发者
新闻资讯7

华为发布全新芯片之后,国产AI芯片面对的三个关键问题

华为在2025全连接大会发布多款AI芯片并公布路线图,其“P/D分离”设计针对市场挑战。文章指出中国AI产业需求倒逼芯片创新,还分析了国产芯片面临的生态、产品经理人才及产业与芯片关系等问题

芯师爷
产品应用8

智谱清言微服务架构转型实践——基于 CloudWeGo 的技术演进

本文由智谱清言资深后端开发工程师肖文彬整理,阐述其从单体架构到微服务体系的转型实践。随着业务发展,传统单体架构显瓶颈,智谱清言开启转型,分享挑战、架构设计、技术选型等经验,为相关团队提供借鉴。

InfoQ
推荐文章8

AI Agent 记忆系统:从短期到长期的技术架构与实践

随着 AI Agent 应用发展,记忆系统成为构建实用 AI Agent 系统的关键技术。文章介绍了记忆基础概念、Agent 框架集成记忆系统的架构,阐述了短期记忆的上下文工程策略和长期记忆技术架构及集成,还分析了行业趋势与产品对比。

阿里云开发者
推荐文章7

为什么软件工程治理很重要:降低风险但不拖累速度

Sarah Wells 在哥本哈根 Goto 会议称,软件工程治理助团队决策、支持价值交付。糟糕治理会拖慢进度、增加成本。技术策略和组织技术雷达可辅助决策,还能从 DORA 能力学治理。

InfoQ