「GPU调度」共找到 539 篇相关文章
千卡集群破壁之道：vivo视觉多模态大模型训练效率跃迁实战
多模态大模型在多领域需求增长，但千卡级 GPU 训练挑战大。vivo AI 架构师王兆雄在大会演讲，结合 LLaVA 和 DiT 模型实践，解析优化策略，分享提升训练效率与稳定性的经验，还展望了 AI Infra 未来。
Switch 2芯片细节曝光！英伟达专门定制支持DLSS，网友：掌机模式相当于PS4
数毛社消息，Switch 2采用英伟达真·定制版芯片，含8核CPU和12GB LPDDR5X内存，GPU基于Ampere架构，支持DLSS和光线追踪。不过配置也引吐槽，如掌机性能降、续航或不长等。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
AMD终于有机会撬动CUDA了吗？
过去AMD GPU虽性能强但难敌英伟达CUDA生态。2024年有机构认为其缩小软件差距概率为0，但如今判断改变，AMD软件团队进步，客户回归，可它仍需解决软件集群稳定性和Helios量产问题。
50FPS、成本打掉70%，魔芯MoWorld把世界模型带进产业时代
近期，魔芯科技联合浙江大学潘云鹤院士、华为等发布实时交互世界模型MoWorld，推理速度超50FPS，部署成本仅为同规模GPU方案的30%。它全链路优化，将用于多行业，魔芯也完成亿元美金融资。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
开启RL Scaling新纪元，siiRL开源：完全分布式强化学习框架，支持超千卡规模高效训练
传统强化学习框架在模型和集群规模达上千块GPU时，存在扩展性瓶颈和效率低下问题。上海创智学院团队推出siiRL，采用全分布式架构和多控制器范式，解决传统框架痛点，在多方面验证了其高性能。
全新 AI 消息模型：Apache RocketMQ 如何让 AI 应用拥抱事件驱动架构？
AIGC浪潮下，大语言模型重塑应用开发范式，开发者构建AI应用面临诸多挑战，需可靠高效的异步通信机制。Apache RocketMQ在AI时代演进，有轻量化通信与智能化资源调度两大创新，还介绍了多场景实践。
可灵3.0系列模型正式上线：属于每个人的导演时代来临
可灵AI正式全球上线3.0系列模型，覆盖影视级全流程链路。该系列基于All-in-One理念构建，解决了行业一致性等问题，在多方面做了增强，完成从单点生成到专业调度的跃迁，让AI成创作协作者。
别让米其林主厨削土豆！英伟达用「小脑指挥大脑」，重构AGI生产力
英伟达推出8B模型Orchestrator，通过组合工具降本增效。在HLE等测试中超越GPT - 5，成本仅为其30%左右。它还能泛化到未见工具，具有可定制调度能力，标志着复合AI新范式的兴起。