Jika adalah IID, maka hitung , di mana


14

Pertanyaan

Jika adalah IID, maka hitung , di mana .X1,,XnN(μ,1)E(X1T)T=iXi


Coba : Silakan periksa apakah di bawah ini benar.

Katakanlah, kita mengambil penjumlahan dari harapan bersyarat itu sehingga, Ini berarti bahwa setiap sejak X_1, \ ldots, X_n adalah IID.

iE(XiT)=E(iXiT)=T.
E(XiT)=TnX1,,Xn

Dengan demikian, E(X1T)=Tn . Apakah itu benar?


2
The 's tidak iid tergantung pada tetapi memiliki distribusi gabungan ditukar. Inilah yang menyiratkan bahwa harapan bersyarat mereka semua sama (dengan ). T T / nXiTT/n
Jarle Tufto

@ JarleTufto: Apa yang Anda maksud dengan "distribusi bersama yang dapat ditukar"? Distribusi gabungan dan ? TXiT
belajar

2
Ini berarti bahwa distribusi gabungan sama dengan (dan semua permutasi lainnya). Lihat en.wikipedia.org/wiki/Exchangeable_random_variables . Atau lihat jawaban @ whuber! X 2 , X 3 , X 1X1,X2,X3X2,X3,X1
Jarle Tufto

2
Khususnya jawabannya tidak tergantung pada distribusi . X1,,Xn
StubbornAtom

Jawaban:


11

Idenya benar - tetapi ada pertanyaan untuk mengungkapkannya sedikit lebih keras. Karena itu saya akan fokus pada notasi dan pengungkapan esensi ide.


Mari kita mulai dengan gagasan pertukaran:

Variabel acak dapat ditukar ketika distribusi variabel yang diijinkan semuanya sama untuk setiap permutasi yang mungkin .X=(X1,X2,,Xn)X σ = ( X σ ( 1 ) , X σ ( 2 ) , ... , X σ ( n ) ) σXσ=(Xσ(1),Xσ(2),,Xσ(n))σ

Jelas iid menyiratkan dapat ditukar.

Sebagai soal notasi, tulislah untuk komponen dari dan biarkanXiσ=Xσ(i)ithXσ

Tσ=i=1nXiσ=i=1nXi=T.

Biarkan menjadi indeks apa pun dan biarkan menjadi permutasi dari indeks yang mengirim ke (Seperti ada karena kita selalu bisa hanya menukar dan ) Dapat dipertukarkan dari menyiratkanjσ1j=σ(1).σ1j.X

E[X1T]=E[X1σTσ]=E[XjT],

karena (dalam ketidaksetaraan pertama) kita hanya mengganti X dengan vektor Xσ. terdistribusi secara identik . Inilah inti masalahnya.

Karena itu

T=E[TT]=E[i=1nXiT]=i=1nE[XiT]=i=1nE[X1T]=nE[X1T],

dari mana

E[X1T]=1nT.


4

Ini bukan bukti (dan +1 ke jawaban @ whuber), tetapi ini adalah cara geometris untuk membangun beberapa intuisi mengapa E(X1|T)=T/n adalah jawaban yang masuk akal.

Mari X=(X1,,Xn)T dan 1=(1,,1)T sehingga T=1TX . Kami kemudian mengkondisikan pada kejadian bahwa 1TX=t untuk beberapa tR , jadi ini seperti menggambar multivariat Gaussians yang didukung pada Rn tetapi hanya melihat yang berakhir di ruang affine {xRn:1Tx=t} . Kemudian kita ingin mengetahui rata-ratakoordinatx1 dari titik-titik yang mendarat di ruang affine ini (apalagi ukuran subset nol ukuran).

Kita tahu

XN(μ1,I)
jadi kita punya Gaussian berbentuk bola dengan vektor rata-rata konstan, dan vektor rata-rata μ1 berada di garis yang sama dengan vektor normal hyperplane xT1=0 .

Ini memberi kita situasi seperti gambar di bawah ini: enter image description here

Ide kunci: pertama bayangkan kepadatan selama affine subruang Ht:={x:xT1=t} . Kerapatan X simetris di sekitar x1=x2 karena E(X)span 1 . Kepadatan juga akan simetris pada Ht sebagai Ht juga simetris di atas garis yang sama, dan titik sekitar yang simetris adalah perpotongan garis x1+x2=t danx1=x2 . Ini terjadi untukx=(t/2,t/2) .

Untuk gambar E(X1|T) kita bisa membayangkan sampel berulang, dan kemudian setiap kali kita mendapatkan titik di Ht kita mengambil hanya x1 berkoordinasi dan save itu. Dari simetri kepadatan pada Ht distribusi x1 koordinat juga akan simetris, dan itu akan memiliki titik pusat yang sama dari t/2 . Mean dari distribusi simetris adalah titik pusat simetri jadi ini berarti E(X1|T)=T/2, dan bahwa E(X1|T)=E(X2|T) karena X1 dan X2 dapat dikeluarkan tanpa mempengaruhi apa pun.

Dalam dimensi yang lebih tinggi, ini sulit (atau tidak mungkin) untuk divisualisasikan secara tepat, tetapi ide yang sama berlaku: kita punya Gaussian berbentuk bola dengan rata-rata dalam rentang 1 , dan kita sedang melihat subruang afin yang tegak lurus terhadap itu. Titik keseimbangan distribusi pada subruang masih akan menjadi persimpangan span 1 dan {x:xT1=t} yang berada di x=(t/n,,t/n) , dan densitasnya masih simetris. jadi titik keseimbangan ini lagi berarti.

Sekali lagi, itu bukan bukti, tapi saya pikir itu memberikan ide yang layak mengapa Anda mengharapkan perilaku ini di tempat pertama.


Di luar ini, seperti yang dicatat oleh @StubbornAtom, ini sebenarnya tidak mengharuskan X untuk menjadi Gaussian. Dalam 2-D, perhatikan bahwa jika X dapat ditukar maka f(x1,x2)=f(x2,x1) (lebih umum, f(x)=f(xσ) ) sehingga f harus simetris lebih baris x1=x2 . Kami juga memiliki E(X)span 1 sehingga semua yang saya katakan mengenai "ide kunci" dalam gambar pertama masih tepat. Berikut adalah contoh di manaXi iid dari model campuran Gaussian. Semua garis memiliki arti yang sama seperti sebelumnya.

enter image description here


1

Saya pikir jawaban Anda benar, meskipun saya tidak sepenuhnya yakin tentang garis pembunuh dalam bukti Anda, tentang hal itu benar "karena mereka iid". Cara yang lebih bertele-tele untuk solusi yang sama adalah sebagai berikut:

Pikirkan tentang arti sebenarnya dari E(xi|T) . Anda tahu bahwa Anda memiliki sampel dengan pembacaan N dan rata-rata mereka adalah T. Apa artinya ini sebenarnya, adalah bahwa sekarang, distribusi dasar yang mereka sampel dari tidak lagi penting (Anda akan melihat Anda pada titik yang tidak menggunakan fakta bahwa itu adalah sampel dari Gaussian di bukti Anda).

E(xi|T) adalah jawaban untuk pertanyaan, jika Anda mengambil sampel dari sampel Anda, dengan penggantian berkali-kali, berapa rata-rata yang Anda peroleh. Ini adalah jumlah atas semua nilai yang mungkin, dikalikan dengan probabilitas mereka, ataui=1N1Nxiyang sama dengan T.


1
Perhatikan bahwa tidak bisa iid, karena mereka dibatasi untuk jumlah untuk T . Jika Anda tahu n - 1 dari mereka, Anda tahu n t h satu juga. xi|TTn1nth
jbowman

ya, tapi saya melakukan sesuatu yang lebih halus, saya katakan jika Anda mengambil sampel beberapa kali dengan penggantian, setiap sampel akan menjadi sampel pertama dari distribusi diskrit.
gazza89

Maaf! Salah menaruh komentar, seharusnya ke OP. Itu dimaksudkan mengacu pada pernyataan "Itu berarti bahwa setiap sejakX1,...,Xnadalah IID. "E(XiT)=TnX1,,Xn
jbowman
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.