Mengapa jumlah variabel seragam kontinu pada (0,1) yang diperlukan untuk jumlah mereka melebihi satu memiliki rata-rata ?

Mari kita menjumlahkan aliran variabel acak, ; misalkan adalah jumlah istilah yang kita perlukan untuk totalnya melebihi satu, yaitu adalah angka terkecil sehingga $X_i \overset{iid}\sim \mathcal{U}(0,1)$ $Y$ $Y$

X_{1} + X_{2} + \dots + X_{Y} > 1.

$X_1 + X_2 + \dots + X_Y > 1.$

Mengapa mean dari sama Euler konstan ? $Y$ $e$

E (Y) = e = \frac{1}{0!} + \frac{1}{1!} + \frac{1}{2!} + \frac{1}{3!} + \dots

$\mathbb{E}(Y) = e = \frac{1}{0!} + \frac{1}{1!} + \frac{1}{2!} + \frac{1}{3!} + \dots$

— Gegat
sumber

Saya memposting ini dalam semangat pertanyaan belajar mandiri, meskipun saya pikir saya pertama kali melihat pertanyaan ini lebih dari satu dekade yang lalu. Saya tidak ingat bagaimana saya menjawabnya saat itu, meskipun saya yakin itu tidak muncul ketika saya melihat properti ini disebutkan di utas Perkiraan menggunakan Simulasi Monte Carlo

e

$e$ . Karena saya menduga ini adalah pertanyaan latihan yang cukup umum, saya telah memilih untuk menyajikan sketsa daripada solusi lengkap, meskipun saya kira "peringatan spoiler" utama termasuk dalam pertanyaan itu sendiri!

— Silverfish

Saya tetap sangat tertarik dengan pendekatan alternatif; Saya tahu ini dimasukkan sebagai pertanyaan dalam Teori Probabilitas Gnedenko (aslinya dalam bahasa Rusia tetapi diterjemahkan secara luas) tetapi saya tidak tahu solusi apa yang diharapkan di sana, atau diajukan di tempat lain.

— Silverfish

Saya menulis solusi simulasi di MATLAB menggunakan metode simpleks Anda. Saya tidak tahu tentang tautan ke simpleks, ini sangat tidak terduga.

— Aksakal

Jawaban:

Pengamatan pertama: $Y$ memiliki CDF yang lebih menyenangkan daripada PMF

Fungsi massa probabilitas $p_Y(n)$ adalah probabilitas bahwa $n$ adalah "cukup" untuk total melebihi kesatuan, yaitu $X_1 + X_2 + \dots X_n$ melebihi satu sedangkan $X_1 + \dots + X_{n-1}$ tidak tidak.

Distribusi kumulatif $F_Y(n) = \Pr(Y \leq n)$ hanya membutuhkan $n$ adalah "cukup", yaitu $\sum_{i=1}^{n}X_i > 1$ tanpa batasan berapa banyak oleh. Ini terlihat seperti peristiwa yang jauh lebih sederhana untuk menghadapi probabilitas.

Pengamatan kedua: $Y$ mengambil nilai integer non-negatif sehingga $\mathbb{E}(Y)$ dapat ditulis dalam bentuk CDF

Jelas $Y$ hanya dapat mengambil nilai dalam $\{0, 1, 2, \dots\}$ , sehingga kita dapat menulis mean dalam hal CDF pelengkap , $\bar F_Y$ .

E (Y) = \sum_{n = 0}^{\infty} {\bar{F}}_{Y} (n) = \sum_{n = 0}^{\infty} (1 - F_{Y} (n))

$\mathbb{E}(Y) = \sum_{n=0}^\infty \bar F_Y(n) = \sum_{n=0}^\infty \left(1 - F_Y(n) \right)$

Faktanya $\Pr(Y=0)$ dan $\Pr(Y=1)$ sama-sama nol, jadi dua istilah pertama adalah $\mathbb{E}(Y) = 1 + 1 + \dots$ .

Adapun persyaratan kemudian, jika $F_Y(n)$ adalah probabilitas bahwa $\sum_{i=1}^{n}X_i > 1$ , apa acara adalah $\bar F_Y(n)$ probabilitas?

Pengamatan ketiga: volume (hiper) dari $n$ simpleks adalah $\frac{1}{n!}$

The $n$ -simplex ada di benak saya menempati volume bawah standar unit $(n-1)$ -simplex di semua positif orthant dari $\mathbb{R}^n$ : itu adalah convex hull dari $(n+1)$ simpul, khususnya asal ditambah simpul dari unit $(n-1)$ -simplex at $(1, 0, 0, \dots)$ , $(0, 1, 0, \dots)$ dll.

Misalnya, 2-simpleks di atas dengan memiliki luas $x_1 + x_2 \leq 1$ dan 3-simpleks denganmemiliki volume $\frac{1}{2}$ $x_1 + x_2 + x_3 \leq 1$ . $\frac{1}{6}$

Untuk bukti yang dihasilkan dengan langsung mengevaluasi integral untuk probabilitas acara yang dijelaskan oleh , dan tautan ke dua argumen lain, lihat utas Matematika SE ini . Thread terkait juga mungkin menarik: Apakah ada hubungan antara dan jumlah volume simpleks? $\bar F_Y(n)$ $e$ $n$

— Gegat
sumber

Ini adalah pendekatan geometris yang menarik, dan mudah dipecahkan dengan cara ini. Cantik. Inilah persamaan untuk volume simpleks. Saya tidak berpikir mungkin ada solusi yang lebih elegan, terus terang

— Aksakal

+1 Anda juga dapat memperoleh distribusi

penuh dari salah satu pendekatan di pos saya di stats.stackexchange.com/questions/41467/… .

Y

$Y$

— whuber

Jika saya menemukan solusi ini, tidak mungkin mereka memaksa saya melakukannya dengan cara lain di sekolah :)

— Aksakal

Perbaiki . Biarkan $n \ge 1$ menjadi bagian pecahan dari jumlah parsial untuk . Keseragaman independen dari dan menjamin bahwa kemungkinan akan melebihi karena lebih kecil dari itu. Ini menyiratkan bahwasemuaorderings urutan sama-sama mungkin.

U_{i} = X_{1} + X_{2} + \dots + X_{i} \mod 1

$U_i = X_1 + X_2 + \cdots + X_i \mod 1$

i = 1, 2, \dots, n

$i=1,2,\ldots, n$

X_{1}

$X_1$

X_{i + 1}

$X_{i+1}$

U_{i + 1}

$U_{i+1}$

U_{i}

$U_i$ $n!$ $(U_i)$

Dengan urutan , kita dapat memulihkan urutan . Untuk melihat caranya, perhatikan itu $U_1, U_2, \ldots, U_n$ $X_1, X_2, \ldots, X_n$

karena keduanya antara dan . $U_1 = X_1$ $0$ $1$
Jika , maka . $U_{i+1} \ge U_i$ $X_{i+1} = U_{i+1} - U_i$
Kalau tidak, , dari mana . $U_i + X_{i+1} \gt 1$ $X_{i+1} = U_{i+1} - U_i + 1$

Ada tepat satu urutan di mana sudah dalam urutan meningkat, dalam hal ini . Menjadi salah satu dari kemungkinan urutan yang sama, ini memiliki peluang terjadi. Dalam semua urutan lainnya, setidaknya satu langkah dari ke rusak. Ini menyiratkan jumlah harus sama atau melebihi $U_i$ $1 \gt U_n = X_1 + X_2 + \cdots + X_n$ $n!$ $1/n!$ $U_i$ $U_{i+1}$ $X_i$ $1$ . Jadi kita melihat itu

Pr (Y > n) = Pr (X_{1} + X_{2} + \dots + X_{n} \leq 1) = Pr (X_{1} + X_{2} + \dots + X_{n} < 1) = \frac{1}{n!} .

$\Pr(Y \gt n) = \Pr(X_1 + X_2 + \cdots + X_n \le 1) = \Pr(X_1 + X_2 + \cdots + X_n \lt 1) = \frac{1}{n!}.$

Ini menghasilkan probabilitas untuk seluruh distribusi , karena untuk integral $Y$ $n\ge 1$

Pr (Y = n) = Pr (Y > n - 1) - Pr (Y > n) = \frac{1}{(n - 1)!} - \frac{1}{n!} = \frac{n - 1}{n!} .

$\Pr(Y = n) = \Pr(Y \gt n-1) - \Pr(Y \gt n) = \frac{1}{(n-1)!} - \frac{1}{n!} = \frac{n-1}{n!}.$

Bahkan,

E (Y) = \sum_{n = 0}^{\infty} Pr (Y > n) = \sum_{n = 0}^{\infty} \frac{1}{n!} = e,

$\mathbb{E}(Y) = \sum_{n=0}^\infty \Pr(Y \gt n) = \sum_{n=0}^\infty \frac{1}{n!} = e,$

QED.

— whuber
sumber

I have read it a couple of times, and I almost get it... I posted a couple of questions in the Mathematics SE as a result of the

e

$e$ constant computer simulation. I don't know if you saw them. One of them came back before your kind explanation on Tenfold about the ceiling function of the

1 / U (0, 1)

$1/U(0,1)$ and the Taylor series. The second one was exactly about this topic, never got a response, until now...

— Antoni Parellada

here and here.

— Antoni Parellada

And could you add the proof with the uniform spacings as well?

— Xi'an

@Xi'an Could you indicate more specifically what you mean by "uniform spacings" in this context?

— whuber

I am referring to your Poisson process simulation via the uniform spacing, in the thread Approximate e using Monte Carlo Simulation for which I cannot get a full derivation.

— Xi'an

In Sheldon Ross' A First Course in Probability there is an easy to follow proof:

Modifying a bit the notation in the OP, $U_i \overset{iid}\sim \mathcal{U}(0,1)$ and $Y$ the minimum number of terms for $U_1 + U_2 + \dots + U_Y > 1$ , or expressed differently:

Y = m i n {n : \sum_{i = 1}^{n} U_{i} > 1}

$Y = min\Big\{n: \sum_{i=1}^n U_i>1\Big\}$

If instead we looked for:

Y (u) = m i n {n : \sum_{i = 1}^{n} U_{i} > u}

$Y(u) = min\Big\{n: \sum_{i=1}^n U_i>u\Big\}$ for

u \in [0, 1]

$u\in[0,1]$ , we define the

f (u) = E [Y (u)]

$f(u)=\mathbb E[Y(u)]$ , expressing the expectation for the number of realizations of uniform draws that will exceed

u

$u$ when added.

We can apply the following general properties for continuous variables:

$E[X] = E[E[X|Y]]=\displaystyle\int_{-\infty}^{\infty}E[X|Y=y]\,f_Y(y)\,dy$

to express $f(u)$ conditionally on the outcome of the first uniform, and getting a manageable equation thanks to the pdf of $X \sim U(0,1)$ , $f_Y(y)=1.$ This would be it:

\begin{matrix} (1) & f (u) = \int_{0}^{1} E [Y (u) | U_{1} = x] d x \end{matrix}

$f(u)=\displaystyle\int_0^1 \mathbb E[Y(u)|U_1=x]\,dx \tag 1$

If the $U_1=x$ we are conditioning on is greater than $u$ , i.e. $x>u$ , $\mathbb E[Y(u)|U_1=x] =1 .$ If, on the other hand, $x <u$ , $\mathbb E[Y(u)|U_1=x] =1 + f(u - x)$ , because we already have drawn $1$ uniform random, and we still have the difference between $x$ and $u$ to cover. Going back to equation (1):

f (u) = 1 + \int_{0}^{x} f (u - x) d x

$f(u) = 1 + \displaystyle\int_0^x f(u - x) \,dx$ , and with substituting

w = u - x

$w = u - x$ we would have

f (u) = 1 + \int_{0}^{x} f (w) d w

$f(u) = 1 + \displaystyle\int_0^x f(w) \,dw$ .

If we differentiate both sides of this equation, we can see that:

f^{'} (u) = f (u) ⟹ \frac{f^{'} (u)}{f (u)} = 1

$f'(u) = f(u)\implies \frac{f'(u)}{f(u)}=1$

with one last integration we get:

l o g [f (u)] = u + c ⟹ f (u) = k e^{u}

$log[f(u)] = u + c \implies f(u) = k \,e^u$

We know that the expectation that drawing a sample from the uniform distribution and surpassing $0$ is $1$ , or $f(0) = 1$ . Hence, $k = 1$ , and $f(u)=e^u$ . Therefore $f(1) = e.$

— Antoni Parellada
sumber

I do like the manner in which this generalises the result.

— Silverfish