跳到正文
Hugging Face Blog·· 17 天前精选AI 评分68

Ai2 如何通过 GPU 时间预算优化集群调度

Impactful scheduling for GPU clusters

AI 导读

Ai2 团队通过引入基于 GPU 时间预算、分层公平调度和调度合约的系统,取代了原有的优先级调度模式。该方案将资源分配从操作任务转变为透明的预算过程,有效解决了 GPU 资源占用(squatting)和优先级膨胀问题,并将人工维护需求降低了 74%,同时保持了 98% 的集群占用率。

推荐理由

Ai2 分享了通过引入 GPU 时间预算和分层公平调度机制解决集群资源争抢问题的实践,为管理大规模分布式训练集群提供了可借鉴的策略。

来源:Hugging Face Blog · huggingface.co