编号类型领域虚拟化/MIG模式算法名称算法逐步推理思考的数学方程式及参数/常量/向量/常数/数字/数值列表算法的时序数学方程式关联知识401性能优化GPU虚拟化+容器MIG+容器基于GPU内存带宽隔离的容器化AI训练任务调度算法1.带宽模型:每个MIG实例带宽 Bi=Btotal⋅SMtotalSMi,其中 Btotal=900GB/s,SMtotal=562.容器约束:每个容器请求GPU内存 Mi∈{4,8,16}GB,带宽需求 bi=α⋅Mi,其中 α=20GB/s/GB3.调度目标:将容器分配到MIG实例,最小化带宽不匹配:min∑i∥bi−Balloc(i)∥4.放置约束:每个MIG实例最多一个容器,Mi≤Malloc(i)max
【信息科学与工程学】计算机科学与自动化 ——第六十五篇 虚拟化/MIG 系列02
编号类型领域虚拟化/MIG模式算法名称算法逐步推理思考的数学方程式及参数/常量/向量/常数/数字/数值列表算法的时序数学方程式关联知识401性能优化GPU虚拟化+容器MIG+容器基于GPU内存带宽隔离的容器化AI训练任务调度算法1.带宽模型:每个MIG实例带宽 Bi=Btotal⋅SMtotalSMi,其中 Btotal=900GB/s,SMtotal=562.容器约束:每个容器请求GPU内存 Mi∈{4,8,16}GB,带宽需求 bi=α⋅Mi,其中 α=20GB/s/GB3.调度目标:将容器分配到MIG实例,最小化带宽不匹配:min∑i∥bi−Balloc(i)∥4.放置约束:每个MIG实例最多一个容器,Mi≤Malloc(i)max