「集群性能优化」共找到 2912 篇相关文章
1000 行 Java 代码手搓 OpenAI gpt-oss 推理引擎
2025年8月OpenAI发布gpt - oss，作者受相关项目启发，用约1000行Java代码实现gpt - oss推理引擎并发布在亚马逊官方github。文章分享开发体会，介绍模型架构、Java实现、性能优化等内容。
SGLang-Diffusion: 两个月进展
自2025年11月初发布，SGLang - Diffusion获广泛关注。过去两月持续优化，速度提升1.5倍。介绍新模型支持、LoRA支持等进展，还展示性能测试结果，阐述关键改进及未来规划。
当云计算开始在硅谷“造星”，一场自我革命开始了
亚马逊云科技在2025 re:Invent大会尽显号召力，新锐Decart AI、TwelveLabs等借其技术蹿红，苹果也分享成果。它还进行自我革命，优化性能，构建生态，其中国行也即将开启。
最新W4A4KV4全量化框架，单卡A100大模型推理速度飙升
计算所王颖研究员团队等联合在ASPLOS 2025上发表并开源COMET框架，通过系统 - 算法协同优化，实现全4比特推理性能突破，在多方面有技术亮点，实测性能碾压现有方案且已开源。
SOP：具身智能在线进化新范式，为大规模真实世界部署而生
智元机器人具身研究中心提出SOP在线后训练系统，将VLA后训练重构为“在线、集群、并行”，可即插即用后训练算法。它有高效探索、缓解偏移等优势，实验显示能提升性能、效率，突破VLA瓶颈。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的？
文章介绍了开源推理引擎 vLLM 和 SGLang，包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术，SGLang 基于 RadixAttention 优化。二者竞争激烈，性能趋同，还获投资与基金会关注，受科技公司青睐。
聊聊AI应用架构演进
本文按AI应用架构演进路线，介绍每次演进增加的架构内容及相关技术，涵盖从简易架构到Agent模式等各阶段，还提及监控、推理性能优化等，助读者整理新技术，为探讨AI与传统应用架构异同做调研。
CVPR 2026 | 还在为AI「鬼画符」发愁？TextPecker即插即用破解文字渲染难题
在生成式AI浪潮中，视觉文本渲染仍是未攻克的核心难题。华中科技大学白翔教授团队等提出TextPecker，是基于结构感知的即插即用型强化学习优化策略，可适配主流生成器，提升视觉文本渲染性能，已被CVPR 2026接收。
智算，云厂商的下一个战场
随着大模型技术走向产业，企业需算存网数一体的高性能智算底座。领先云厂商积极升级能力，如腾讯云推出“云智算”，在计算、存储等方面布局迭代，还在多领域与企业合作，推动智算发展。
英伟达护城河被AI攻破，字节清华CUDA Agent，让人人能搓CUDA内核
近日，字节跳动Seed团队和清华AIR的CUDA Agent引发轰动。它能编写经优化的CUDA内核，性能超torch.compile等。研究发布CUDA - Agent - Ops - 6K数据集，介绍系统管线设计、训练流程，实验结果佳，但有未对比复杂编译器等局限。