「GPU优化」共找到 1614 篇相关文章
谈一谈TP推理场景下MoE Group GEMM的优化思路
作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。
老黄极限游说成功！美国想卖中国英伟达GPU了？
英伟达CEO黄仁勋亲自游说，使限制其先进AI芯片出口的《GAIN AI法案》未被塞进国防法案。此前“对华鹰派”与英伟达等行业巨头激烈博弈，虽法案暂时搁浅，但新提案正在酝酿。
Anthropic官方解密：3招上下文优化，破解Agent性能暴跌
本文是Anthropic官方文章翻译，从提示词工程拓展到上下文工程，阐述其构建方法。介绍上下文工程对构建智能体的重要性、上下文构成，还提及上下文检索、智能体搜索及长期任务的上下文工程解决方案。
突发，马斯克xAI解散了！22万张GPU忍痛全给Claude
马斯克官宣解散xAI并入SpaceX，同时将全球最强超算Colossus 1租给Claude。此前xAI与OpenAI竞争不利，Grok表现不佳且亏损严重。马斯克此举类似谷歌策略，可赚钱、扶持对手、盘活资产，还在法庭起诉OpenAI。
无需租GPU，一台24GB内存的笔记本就够了!
阿里开源稀疏 MoE 模型 Qwen3.6-35B-A3B，总参数 35B，激活 3B。它在智能体编程上超越前代，可与稠密模型媲美，支持多模态，已在 Qwen Studio 上线，还能集成第三方编程助手。
别盯着GPU了，CPU正成为AI时代的“新瓶颈”
进入2026年，AI系统性能越来越取决于执行与调度能力，CPU正成为AI时代的“新瓶颈”。目前CPU市场供应紧张，英特尔、AMD、英伟达等大厂应对策略各有不同，智能体时代算力天平正回摆。
AEPO：智能体熵平衡策略优化，让探索更稳，推理更深！
中国人民大学与快手团队联合提出 AEPO 算法，解决熵驱动式智能体强化学习训练不稳等问题。它设计两项核心机制，在 14 个基准上优于主流算法，在 X 等平台获高关注。
Kubernetes环境中作业帮大模型服务流量调度优化实践
随着大语言模型应用渐广，Kubernetes 现有 Ingress 组件在大模型服务流量管理上有局限。作业帮提出创新调度方案，整合成模型网关，具备五项核心功能，提升了资源效率、稳定性和易用性。
OpenAI解散「灾难风险应急」团队！GPU大神Scott Gray也跑路了
OpenAI解散「Preparedness」团队，该团队负责评估自家AI灾难级社会风险。官方称安全工作已融入开发流程。此前多个安全团队也已解散，多名安全高管离职，引发员工不安。
已量产交付！芯桥半导体全栈国产GPU助推智算自主化
芯桥（北京）半导体成立于2025年3月，掌握核心自主知识产权，旗下Sinexus X200及Sinexus S200已量产，产品在多算力集群点亮。X200性能强、价格优，芯桥还提供全栈式解决方案。