Bagaimana perbedaan waktu penyelesaian tugas memengaruhi makepan?

16

Mari kita mengatakan bahwa kita memiliki koleksi besar tugas $\tau_1, \tau_2, ..., \tau_n$ dan koleksi identik (dalam hal kinerja) prosesor $\rho_1, \rho_2, ..., \rho_m$ yang beroperasi sepenuhnya secara paralel. Untuk skenario yang menarik, kita dapat mengasumsikan $m \leq n$ . Setiap $\tau_i$ membutuhkan sejumlah waktu / siklus untuk menyelesaikannya setelah ditugaskan ke prosesor $\rho_j$ , dan setelah ditugaskan, itu tidak dapat ditugaskan kembali sampai selesai (prosesor selalu akhirnya menyelesaikan tugas yang ditugaskan). Mari kita asumsikan bahwa setiap $\tau_i$ mengambil sejumlah waktu / siklus $X_i$ , tidak diketahui sebelumnya, diambil dari beberapa distribusi acak diskrit. Untuk pertanyaan ini, kita bahkan dapat mengasumsikan distribusi sederhana: $P(X_i = 1) = P(X_i = 5) = 1/2$ , dan semua $X_i$ independen berpasangan. Oleh karena itu $\mu_i = 3$ dan $\sigma^2 = 4$ .

Misalkan, secara statis, pada waktu / siklus 0, semua tugas diberikan secara merata ke semua prosesor, seragam secara acak; jadi setiap prosesor $\rho_j$ ditugaskan tugas (kita bisa juga mengasumsikan untuk keperluan pertanyaan). Kami menyebut makespan waktu / siklus di mana prosesor terakhir untuk menyelesaikan pekerjaan yang ditugaskan, menyelesaikan pekerjaan yang ditugaskan. Pertanyaan pertama: $n/m$ $m | n$ $\rho^*$

Sebagai fungsi dari $m$ , $n$ , dan $X_i$ 's, apa makespan $M$ ? Secara khusus, apa itu $E[M]$ ? $Var[M]$ ?

Pertanyaan kedua:

Misalkan $P(X_i = 2) = P(X_i = 4) = 1/2$ , dan semua $X_i$ independen berpasangan, sehingga $\mu_i = 3$ dan $\sigma^2 = 1$ . Sebagai fungsi dari $m$ , $n$ , dan ini baru $X_i$ 's, apa makespan itu? Lebih menariknya, bagaimana perbandingannya dengan jawaban dari bagian pertama?

Beberapa eksperimen pemikiran sederhana menunjukkan jawaban untuk yang terakhir adalah bahwa makespan lebih panjang. Tetapi bagaimana ini bisa dikuantifikasi? Saya akan senang memposting contoh jika ini (a) kontroversial atau (b) tidak jelas. Bergantung pada keberhasilan dengan yang satu ini, saya akan memposting pertanyaan lanjutan tentang skema penugasan dinamis berdasarkan asumsi yang sama. Terima kasih sebelumnya!

Analisis kasus yang mudah: $m = 1$

Jika , maka semua tugas dijadwalkan ke prosesor yang sama. Makespan hanya waktu untuk lengkap tugas secara berurutan lengkap. Oleh karena itu, $m = 1$ $n$ $M$ $n$ dan

\begin{aligned} E [M] & = E [X_{1} + X_{2} + . . . + X_{n}] \\ = E [X_{1}] + E [X_{2}] + . . . + E [X_{n}] \\ = μ + μ + . . . + μ \\ = n μ \end{aligned}

$\begin{align*} E[M] &= E[X_1 + X_2 + ... + X_n] \\ &= E[X_1] + E[X_2] + ... + E[X_n] \\ &= \mu + \mu + ... + \mu \\ &= n\mu \end{align*}$

\begin{aligned} V a r [M] & = V a r [X_{1} + X_{2} + . . . + X_{n}] \\ = V a r [X_{1}] + V a r [X_{2}] + . . . + V a r [X_{n}] \\ = σ^{2} + σ^{2} + . . . + σ^{2} \\ = n σ^{2} \end{aligned}

$\begin{align*} Var[M] &= Var[X_1 + X_2 + ... + X_n] \\ &= Var[X_1] + Var[X_2] + ... + Var[X_n] \\ &= \sigma^2 + \sigma^2 + ... + \sigma^2 \\ &= n\sigma^2 \\ \end{align*}$

Sepertinya mungkin untuk menggunakan hasil ini untuk menjawab pertanyaan untuk ; kita hanya perlu menemukan ekspresi (atau perkiraan dekat) untuk di mana $m > 1$ $\max(Y_1, Y_2, ..., Y_m)$ , variabel acak dengan $Y_i = X_{i\frac{n}{m} + 1} + X_{i\frac{n}{m} + 2} + ... + X_{i\frac{n}{m} + \frac{n}{m}}$ dan $\mu_Y = \frac{n}{m}\mu_X$ . Apakah ini menuju ke arah yang benar? $\sigma_Y^2 = \frac{n}{m}\sigma_X^2$

probability-theory scheduling parallel-computing

— Patrick87
sumber

Pertanyaan yang bagus Kalau saja tidak ada batas waktu hari ini ....

— Dave Clarke

8

Sebagai , kita dapat melihat ini dalam bentuk dan sebagai ganti dan . Katakanlah adalah waktu yang dibutuhkan prosesor ke - untuk menyelesaikan pekerjaannya. $m = k \times n$ $k$ $n$ $n$ $m$ $T_i$ $i$

Ketika tumbuh, probabilitas bahwa = (prosesor hanya ditugaskan tugas) untuk beberapa mendekati , sehingga makespan didefinisikan sebagai , mendekati . $n$ $T_i$ $5k$ $T=5$ $i$ $1$ $\mathrm{max}(T_i)$ $E[M]$ $5k$

Untuk skenario kedua ini adalah sehingga meningkatkan jumlah prosesor membuat pemisahan 4–2 lebih baik. $4k$

Bagaimana dengan - meningkatkan jumlah tugas per prosesor? Meningkatkan memiliki efek sebaliknya, membuatnya cenderung memiliki prosesor dengan serangkaian tugas yang kurang beruntung. Saya akan pulang sekarang tetapi saya akan kembali lagi nanti. "Firasat" saya adalah bahwa ketika bertumbuh, perbedaan antara perpecahan 4-2 dan 5-1 menghilang, menjadi sama untuk keduanya. Jadi saya akan berasumsi bahwa 4-2 selalu lebih baik kecuali mungkin untuk beberapa kasus khusus (nilai spesifik sangat kecil dari $k$ $k$ $k$ $E[M]$ $E[M]$ dan), jika bahkan itu. $k$ $n$

Jadi untuk meringkas:

Varians yang lebih rendah lebih baik, semuanya sama.
Ketika jumlah prosesor bertambah, varians yang lebih rendah menjadi lebih penting.
Ketika jumlah tugas per prosesor bertambah, varians yang lebih rendah menjadi kurang penting.

— svinja
sumber

+1 Intuisi luar biasa, dan ini membantu untuk memperjelas pemikiran saya juga. Jadi peningkatan jumlah prosesor cenderung meningkatkan makepan di bawah asumsi skala lemah; dan meningkatnya jumlah tugas cenderung mengurangi makepan di bawah asumsi skala yang kuat (tentu saja itu membutuhkan waktu lebih lama; maksud saya rasio kerja / makepan membaik). Ini adalah pengamatan yang menarik, dan tampaknya benar;

— Patrick87

yang pertama dibenarkan oleh fakta bahwa

cenderung

untuk

tetap dan meningkat

; yang terakhir oleh fakta bahwa

1 - (1 - P (X = 5)^{k})^{n}

$1 - (1 - P(X = 5)^k)^n$

1

$1$

k

$k$

n

$n$

... sehingga varians tidak meningkat secara linear sebagai fungsi dari

. Apakah itu sesuai dengan pemikiran Anda (itulah cara saya menafsirkan apa yang Anda miliki sejauh ini)?

V a r [X + X] = V a r [X] + V a r [X] = 2 σ^{2} \leq 4 σ^{2} = 4 V a r [X] = V a r [2 X]

$Var[X + X] = Var[X] + Var[X] = 2\sigma^2 \leq 4\sigma^2 = 4Var[X] = Var[2X]$

k

$k$

— Patrick87

Saya tidak tahu dari mana "firasat" itu berasal; itu tidak konsisten dengan alasan heuristik lainnya.

— András Salamon

2

Saya menemukan bahwa argumen heuristik seringkali cukup menyesatkan ketika mempertimbangkan penjadwalan tugas (dan masalah yang berkaitan erat seperti pengepakan bin). Hal-hal dapat terjadi yang kontra-intuitif. Untuk kasus sederhana seperti itu, ada baiknya sebenarnya melakukan teori probabilitas.

Biarkan dengan bilangan bulat positif. Misalkan adalah waktu yang dibutuhkan untuk menyelesaikan tugas ke- diberikan kepada prosesor . Ini adalah variabel acak dengan mean dan varians . Makespan yang diharapkan dalam kasus pertama adalah $n = km$ $k$ $T_{ij}$ $j$ $i$ $\mu$ $\sigma^2$ Jumlahnya semua iid dengan rata-rata dan varians , dengan asumsi bahwa semua iid (ini lebih kuat daripada independensi berpasangan).

E [M] = E [max {\sum_{j = 1}^{k} T_{i j} ∣ i = 1, 2, \dots, m}] .

$E[M] = E[\max \left\{\sum_{j=1}^k T_{ij} \mid i=1,2,\dots,m \right\}].$

k μ

$k\mu$

k σ^{2}

$k\sigma^2$

T_{i j}

$T_{ij}$

Sekarang untuk mendapatkan ekspektasi maksimum, kita perlu informasi lebih lanjut tentang distribusi, atau kita harus puas dengan batasan bebas distribusi, seperti:

Peter J. Downey, Batas distribusi bebas pada harapan maksimum dengan aplikasi penjadwalan , Operations Research Letters 9 , 189-201, 1990. doi: 10.1016 / 0167-6377 (90) 90018-Z

yang dapat diterapkan jika jumlah prosesor-bijaksana adalah id. Ini tidak harus menjadi kasus jika waktu yang mendasari hanya berpasangan independen. Secara khusus, oleh Teorema 1, makespan yang diharapkan dibatasi di atas oleh Downey juga memberikan distribusi tertentu yang mencapai batas ini, meskipun distribusi berubah seperti, dan tidak sepenuhnya alami.

E [M] \leq k μ + σ \sqrt{k} \frac{n - 1}{\sqrt{2 n - 1}} .

$E[M] \le k\mu + \sigma\sqrt{k}\frac{n-1}{\sqrt{2n-1}}.$

n

$n$

$\sigma^2$ $n$ $k$

$X = \max_{i=1}^m X_i$ $Y = \max_{i=1}^m Y_i$ $X_i$ $Y_i$ $k$ $i$ $x \ge k\mu$

P r [X \leq x] = \prod_{i = 1}^{m} P r [X_{i} \leq x] \leq \prod_{i = 1}^{m} P r [Y_{i} \leq x] = P r [Y \leq x] .

$Pr[X \le x] = \prod_{i=1}^m Pr[X_i \le x] \le \prod_{i=1}^m Pr[Y_i \le x] = Pr[Y \le x].$ Since most of the mass of the probability distribution of the maximum will be above its mean,

E [X]

$E[X]$ will therefore tend to be larger than

E [Y]

$E[Y]$ . This is not a completely rigorous answer, but in short, the second case seems preferable.

— András Salamon
sumber