Mengapa distribusi Cauchy tidak ada artinya?


109

Dari fungsi kerapatan distribusi, kami dapat mengidentifikasi rata-rata (= 0) untuk distribusi Cauchy seperti grafik di bawah ini. Tapi mengapa kita mengatakan distribusi Cauchy tidak ada artinya?

masukkan deskripsi gambar di sini


2
Saya merekomendasikan referensi Cabeza G., UA. (2013). La Media de la Distribución de Cauchy. Dalam blog Apoyo en Matemáticas tentang rata-rata distribusi Cauchy.

Jawaban:


99

Anda dapat memeriksa secara mekanis bahwa nilai yang diharapkan tidak ada, tetapi ini harusnya intuitif secara fisik, setidaknya jika Anda menerima prinsip Huygens dan Hukum Angka Besar . Kesimpulan dari Hukum Angka Besar gagal untuk distribusi Cauchy, jadi itu tidak bisa berarti. Jika Anda rata-rata variabel acak Cauchy independen, hasilnya tidak konvergen ke sebagai dengan probabilitas . Itu tetap distribusi Cauchy dengan ukuran yang sama. Ini penting dalam optik.0 n 1n0n1

Distribusi Cauchy adalah intensitas cahaya yang dinormalisasi pada garis dari sumber titik. Prinsip Huygens mengatakan bahwa Anda dapat menentukan intensitas dengan mengasumsikan bahwa cahaya dipancarkan kembali dari garis apa pun antara sumber dan target. Jadi, intensitas cahaya pada garis meter jauhnya dapat ditentukan dengan mengasumsikan bahwa cahaya pertama mengenai garis meter jauhnya, dan dipancarkan kembali pada setiap sudut maju. Intensitas cahaya pada garis meter jauhnya dapat dinyatakan sebagai konvolusi lipat distribusi cahaya pada garis meter. Artinya, jumlah distribusi Cauchy independen adalah distribusi Cauchy skala dengan faktor .1 n n 1 n n21nn1nn

Jika distribusi Cauchy memiliki rata-rata, maka persentil ke- dari konvolusi lipat dibagi dengan harus konvergen ke oleh Hukum Angka Besar. Sebaliknya ia tetap konstan. Jika Anda menandai persentil ke- pada garis (transparan) meter, meter, dll. Maka titik-titik ini membentuk garis lurus, pada derajat. Mereka tidak membungkuk ke .n n 0 25 1 2 45 025nn02512450

Ini memberi tahu Anda tentang distribusi Cauchy pada khususnya, tetapi Anda harus mengetahui tes integral karena ada distribusi lain tanpa berarti yang tidak memiliki interpretasi fisik yang jelas.


39
+1 Sekarang ada jawaban yang menerangi :-) (maaf). Ngomong-ngomong, prinsipnya dinamai Christiaan Huygens, bukan Huygen. Huygens adalah yang pertama menghargai perkembangan baru dalam probabilitas yang diterbitkan pada 1650-an oleh Pascal (berdasarkan surat-suratnya dengan Fermat): itu adalah akun Huygens tentang ide-ide ini (1657), termasuk harapan, yang awalnya mendapatkan teori probabilitas pada matematika. pijakan dan membuka jalan untuk risalah seminal (anumerta) Jakob Bernoulli ( Ars Conjectandi , 1713).
whuber

4
Amplitudo disebarkan, bukan intensitasnya.
Doru Constantin

2
Ini adalah jawaban yang bagus, tetapi saya menemukan ujungnya membingungkan: "... tandai persentil ke-25 pada ... garis lurus, pada 45 derajat. Mereka tidak membungkuk ke arah 0." Pernyataan itu sendiri benar (sebagai konsekuensi dari prinsip Huygens-Fresnel), tetapi itu sebelum "dibagi dengan ". Ketika membaginya dengan 2 pada 2-meter, dibagi 3 pada 3-meter, ..., maka garis transparan adalah vertikal (tegak lurus terhadap layar yang menangkap cahaya). Garis kuantil 45 derajat milik jumlah Cauchy dan tidak membantu dengan argumen (belum). n
Lee David Chung Lin

40

Jawaban ditambahkan sebagai tanggapan terhadap komentar @ whuber pada jawaban Michael Chernicks (dan ditulis ulang sepenuhnya untuk menghapus kesalahan yang ditunjukkan oleh whuber.)

Nilai integral untuk nilai yang diharapkan dari variabel acak Cauchy dikatakan tidak terdefinisi karena nilai dapat "dibuat" menjadi apa pun yang disukai seseorang. Integral (ditafsirkan dalam arti integral Riemann) adalah apa yang biasa disebut integral yang tidak tepat dan nilainya harus dihitung sebagai nilai pembatas: atau

xπ(1+x2)dx
- x
xπ(1+x2)dx=limT1limT2+T1T2xπ(1+x2)dx
xπ(1+x2)dx=limT2+limT1T1T2xπ(1+x2)dx
dan atau tentu saja, kedua evaluasi harus memberikan nilai terbatas yang sama. Jika tidak, integral dikatakan tidak terdefinisi. Ini segera menunjukkan mengapa rata-rata variabel acak Cauchy dikatakan tidak terdefinisi: nilai batas dalam batas dalam menyimpang.

Nilai pokok Cauchy diperoleh sebagai batas tunggal: bukannya batas ganda di atas. Nilai pokok integral harapan mudah dilihat menjadi karena limitand memiliki nilai untuk semua . Tapi ini tidak bisa digunakan untuk mengatakan bahwa rata-rata variabel acak Cauchy adalah . Artinya, rata-rata didefinisikan sebagai nilai integral dalam pengertian biasa dan bukan dalam pengertian nilai pokok.

limTTTxπ(1+x2)dx
00T0

Untuk , pertimbangkan integral yang mendekati nilai batas dari sebagai . Ketika , kita mendapatkan nilai pokok dibahas di atas. Dengan demikian, kami tidak dapat menetapkan makna yang tidak ambigu untuk ekspresiα>0

TαTxπ(1+x2)dx=TTxπ(1+x2)dx+TαTxπ(1+x2)dx=0+ln(1+x2)2π|TαT=12πln(1+α2T21+T2)=12πln(α2+T21+T2)
ln(α)πTα=10
xπ(1+x2)dx
tanpa menentukan bagaimana kedua infinitas didekati, dan mengabaikan titik ini mengarah ke semua macam-macam komplikasi dan hasil yang salah karena segala sesuatu tidak selalu seperti yang terlihat ketika susu dari nilai utama menyamar sebagai krim nilai. Inilah sebabnya mengapa rata-rata variabel acak Cauchy dikatakan tidak terdefinisi daripada memiliki nilai , nilai utama integral.0

Jika seseorang menggunakan pendekatan ukuran-teoretis untuk probabilitas dan integral nilai yang diharapkan didefinisikan dalam pengertian integral Lebesgue, maka masalahnya lebih sederhana. hanya ada saat terbatas, sehingga tidak terdefinisi untuk variabel acak Cauchy karena tidak terbatas.g|g|E[X]XE[|X|]


9
Evaluasi integral tengah tidak benar: itu nol, bukan logaritma. Masalahnya sebenarnya terletak pada evaluasi dua batas yang tersirat dalam integral tak terbatas.
whuber

@whuber Terima kasih telah menunjukkan kesalahannya. Saya telah sepenuhnya menulis ulang jawaban saya dan komentar Anda tidak lagi berlaku.
Dilip Sarwate

Saya tidak mengerti mengapa ekspektasi rasio tidak ada. Jika dan secara bersama-sama terdistribusi normal dengan rata-rata berbeda dari nol, maka rata-rata diberikan oleh , apa yang saya lewatkan? XYZ=XYxyp(x,y)dxdy
Royi

@ Drazick Saya belum menyebutkan rasio dua variabel acak normal di mana saja dalam jawaban saya. Silakan tanya seseorang yang telah mengangkat masalah ini sehubungan dengan variabel acak Cauchy.
Dilip Sarwate

2
@Drazick Periksa apakah integral Anda ada sama sekali. Secara umum, jika kepadatan kontinu dalam lingkungan , E [X ^ {- 1}] $ tidak ada. X0
Dilip Sarwate

33

Sementara jawaban di atas adalah penjelasan yang valid mengapa distribusi Cauchy tidak memiliki harapan, saya menemukan fakta bahwa rasio dari dua normal independen adalah Cauchy seperti menerangi: memang, kami punya dan harapan kedua adalah .X1/X2N(0,1)

E[|X1||X2|]=E[|X1|]×E[1|X2|]
+

1
Apakahvariabel acak Cauchy 'terlipat' ketika saya tahu bahwa adalah standar Cauchy? Bagaimana seseorang dapat menemukan distribusi? |X1X2|X1X2|X1X2|
StubbornAtom

1
Ya, ini adalah nilai absolut dari varian Cauchy, yang dengan demikian memiliki kepadatan atas bilangan real positif. f(x)+f(x)
Xi'an

Jika Anda melipat distribusi normal, makabukan tak terhingga? E1/|X2|
Albert Chen

Itu tak terbatas.
Xi'an

22

Cauchy tidak memiliki mean karena titik yang Anda pilih (0) bukan berarti. Ini adalah median dan mode . Mean untuk distribusi yang benar-benar kontinu didefinisikan sebagai mana adalah fungsi kerapatan dan integral diambil di atas domain (yaitu to dalam kasus Cauchy). Untuk kepadatan Cauchy, integral ini tidak terbatas (setengah dari ke adalah dan setengah dari hingga adalah ).f f - - 0 - 0 xf(x)dxff00


9
Saya tidak mengkritik Anda, @Dilip: Saya menambah pengamatan Anda. Apa yang sangat menarik adalah bahwa keberadaan nilai pokok nol mungkin menggoda kita untuk menentukan rata-rata distribusi Cauchy (atau rata-rata dari setiap RV) sebagai nilai pokok integral. Ini menyelidiki lebih jauh ke dalam sifat pertanyaan ini, yang ditutup-tutupi dengan menyatakan bahwa integral itu tidak terbatas atau tidak terdefinisi: yaitu, mengapa nilai pokok tidak bekerja ? Mengapa tidak sah untuk menggunakan itu sebagai maksud?
whuber

5
@whuber Juga menarik bahwa jika Anda memotong integral pada -a dan + a untuk setiap a> 0 Anda mendapatkan 0. Jadi mengambil batas sebagai pendekatan ∞ integral simetris memberikan 0. Alasan lain untuk bertanya mengapa tidak 0 artinya.
Michael Chernick

10
@whuber: Saya menganggap pertanyaan terakhir Anda dalam komentar terakhir Anda menjadi retoris; Bagaimanapun kita menginginkan konvergensi absolut dan "alasan" dalam pikiran saya adalah bahwa kita ingin hal-hal berperilaku seperti area. Secara khusus, kita harus dapat memotong barang-barang (fungsi) menjadi potongan-potongan dan mengaturnya sesuka hati tanpa mengganggu jawaban yang kita dapatkan. Kita tidak bisa melakukan ini memotong dan mengatur ulang untuk fungsi linier wrt distribusi Cauchy, jadi kita harus bersikeras bahwa artinya tidak ada.
kardinal

9
@ Cardinal, itu jawaban yang bagus! Saya tidak hanya menjadi retorika, karena pertanyaan itu sendiri bertanya "mengapa kita mengatakan distribusi Cauchy tidak ada artinya?" Menegaskan harapan tidak terdefinisi mungkin memuaskan yang tidak sadar, tetapi kemungkinan bahwa definisi alternatif yang masuk akal dari integral mungkin ada - dan menghasilkan jawaban yang benar secara intuitif! - harus menyusahkan orang. Jawaban Anda dekat dengan apa yang ada dalam pikiran saya, tetapi masih belum lengkap. Saya pikir jawaban yang memuaskan akan mengidentifikasi teorema penting dari teori statistik yang gagal ketika kita bekerja dengan integral konvergen bersyarat.
whuber

7
@Dip, saya juga berpikir demikian, tetapi setelah saya renungkan, ini sedikit lebih menantang daripada yang Anda sarankan. Misalnya, tidak ada masalah dengan Teorema Limit Sentral: tentu saja memerlukan varians secara otomatis menjamin harapan. Dan banyak teorema terbukti menggunakan Ketimpangan Chebyshev, di mana sekali lagi kita dijamin kejam. Jadi saya benar-benar ingin tahu: apa teorema besar yang digunakan dalam praktik statistik di mana kita benar-benar harus menyadari masalah dengan konvergen bersyarat, tetapi tidak konvergen, harapan?
whuber

16

Distribusi Cauchy paling baik dianggap sebagai distribusi seragam pada lingkaran satuan, sehingga akan mengejutkan jika rata-rata masuk akal. Misalkan adalah semacam "fungsi rata-rata". Yaitu, misalkan, untuk setiap himpunan terbatas dari lingkaran satuan, adalah titik dari lingkaran satuan. Jelas, harus "tidak alami". Lebih tepatnya tidak bisa sama dengan rotasi. Untuk mendapatkan distribusi Cauchy dalam bentuknya yang lebih biasa, tetapi kurang mengungkapkan, bentuk, proyeksikan lingkaran unit ke sumbu x dari (0,1), dan gunakan proyeksi ini untuk mentransfer distribusi seragam pada lingkaran ke sumbu x.X f ( X ) f ffXf(X)ff

Untuk memahami mengapa mean tidak ada, anggap x sebagai fungsi pada lingkaran unit. Sangat mudah untuk menemukan jumlah tak terpisahkan dari busur terpisah pada lingkaran satuan, sehingga, jika salah satu busur memiliki panjang d, maka x> 1 / 4d pada busur itu. Jadi masing-masing busur terpisah ini memberikan kontribusi lebih dari 1/4 untuk rata-rata, dan kontribusi total dari busur ini tidak terbatas. Kita dapat melakukan hal yang sama lagi, tetapi dengan x <-1 / 4d, dengan total kontribusi dikurangi tanpa batas. Interval ini dapat ditampilkan dengan diagram, tetapi dapatkah seseorang membuat diagram untuk Cross Validated?


1
Selamat datang di situs ini, @DavidEpstein. Anda dapat membuat gambar dengan perangkat lunak pilihan Anda & mengunggahnya ke dalam jawaban Anda dengan mengklik ikon gambar kecil (untuk meluncurkan panduan) di atas bidang jawaban. Sayangnya, Anda perlu> = 10 rep untuk melakukannya. Saya yakin Anda akan segera mendapatkannya; untuk sementara, jika Anda dapat memposting gambar di tempat lain di internet & memposting tautan untuk itu di jawaban Anda, pengguna rep yang lebih tinggi dapat mengambilnya & mempostingnya untuk Anda.
gung

3
Saya tidak menyadari bahwa Cauchy ditafsirkan sebagai seragam pada lingkaran tetapi itu tentu masuk akal. Argumen topologis menunjukkan bahwa tidak ada fungsi kontinu pada lingkaran yang memiliki sifat fungsi rata-rata.
johnny

@ David Epstein Saya juga membaca jawaban Anda di posting lain . Proyeksi stereografik sangat bagus. Sebagai perbandingan, dapatkah Anda mengomentari mengapa proyeksi radial setengah lingkaran yang valid tidak menyiratkan rata-rata untuk didefinisikan dengan baik? Yaitu, , kemudian adalah standar Cauchy. Secara geometris, ini adalah fakta dasar bahwa sudut yang bertuliskan selalu setengah dari sudut pusatnya. X tan ( π ( U - 1UUnif[0,1]Xtan(π(U12))
Lee David Chung Lin

Sebenarnya dalam hal model fisik sumber cahaya, gambar setengah lingkaran lebih tepat, karena tidak segera jelas mengapa prinsip Huygens akan memberi Anda proyeksi stereografi.
Lee David Chung Lin

10

Nilai rata-rata atau yang diharapkan dari beberapa variabel acak adalah integral Lebesgue yang didefinisikan atas beberapa ukuran probabilitas : P E X = X d PXP

EX=XdP

Tidak adanya rata-rata dari variabel acak Cauchy hanya berarti bahwa integral dari Cauchy rv tidak ada. Ini karena ekor dari distribusi Cauchy adalah ekor yang berat (dibandingkan dengan ekor dari distribusi normal). Namun, tidak adanya nilai yang diharapkan tidak melarang keberadaan fungsi lain dari variabel acak Cauchy.


5
Ekor "berat" dalam arti bahwa mereka tidak membusuk cukup cepat di kedua arah sehingga menyebabkan integral untuk bertemu. Konsep ini tidak ada hubungannya dengan distribusi normal (atau distribusi referensi apa pun).
whuber

4
Ya, terima kasih atas koreksi ini. Saya tidak bermaksud menyiratkan koneksi yang keras antara ekor yang berat dan distribusi normal. Namun, saya berpikir bahwa membandingkan distribusi normal (dengan ekor ringan) dan distribusi ekor berat secara visual membuat (tidak selalu) sedikit lebih mudah untuk memahami konsep ekor "berat".
Tomas

5

Berikut ini lebih banyak penjelasan visual. (Bagi kita yang mengalami kesulitan matematika). Ambil generator angka acak yang didistribusikan secara acak dan coba ratakan nilai yang dihasilkan. Ini adalah halaman yang bagus tentang fungsi untuk ini. https://math.stackexchange.com/questions/484395/how-to-generate-a-cauchy-random-variable Anda akan menemukan bahwa "runcing" dari nilai acak menyebabkannya menjadi lebih besar saat Anda pergi alih-alih lebih kecil . Karena itu tidak ada artinya.


4

Hanya untuk menambah jawaban yang sangat baik, saya akan membuat beberapa komentar tentang mengapa tidak konvergensi integral relevan untuk praktik statistik. Seperti yang telah disebutkan orang lain, jika kita membiarkan nilai pokok menjadi "berarti" maka slln tidak lagi valid! Terlepas dari ini, pikirkan implikasi fakta bahwa, dalam praktiknya, semua model adalah perkiraan. Secara khusus, distribusi Cauchy adalah model untuk variabel acak tidak terikat. Dalam praktiknya, variabel acak dibatasi, tetapi batasannya sering tidak jelas dan tidak pasti. Menggunakan model tanpa batas adalah cara untuk meringankannya, itu membuat tidak perlu pengenalan batas tidak pasti (dan sering tidak wajar) ke dalam model. Tetapi agar ini masuk akal, aspek-aspek penting dari masalah tidak boleh terpengaruh. Itu berarti, jika kita ingin memperkenalkan batasan, yang seharusnya tidak mengubah dengan cara yang penting model. Tetapi ketika integralnya tidak konvergen itu tidak terjadi! Model ini tidak stabil, dalam arti bahwa harapan RV akan bergantung pada batas yang sebagian besar sewenang-wenang. (Dalam aplikasi, tidak perlu alasan untuk membuat batas simetris!)

Untuk alasan ini, lebih baik untuk mengatakan integral itu berbeda daripada mengatakan itu "tak terbatas", yang terakhir dekat dengan menyiratkan beberapa nilai yang pasti ketika tidak ada! Diskusi yang lebih menyeluruh ada di sini .


-4

Aku ingin sedikit pemilih untuk sesaat. Grafik di atas salah. Sumbu x dalam standar deviasi, sesuatu yang tidak ada untuk distribusi Cauchy. Saya pilih-pilih karena saya menggunakan distribusi Cauchy setiap hari dalam hidup saya dalam pekerjaan saya. Ada kasus praktis di mana kebingungan dapat menyebabkan kesalahan empiris. Distribusi-t siswa dengan 1 derajat kebebasan adalah standar Cauchy. Biasanya akan mendaftar berbagai sigma yang diperlukan untuk signifikansi. Sigma ini BUKAN penyimpangan standar, itu kemungkinan kesalahan dan mu adalah modenya.

Jika Anda ingin melakukan gambar di atas dengan benar, baik sumbu x adalah data mentah, atau jika Anda ingin mereka memiliki kesalahan ukuran yang setara, maka Anda akan memberi mereka kemungkinan kesalahan yang sama. Satu kemungkinan kesalahan adalah 0,67 standar deviasi dalam ukuran pada distribusi normal. Dalam kedua kasus itu adalah rentang semi-interkuartil.

Sekarang sebagai jawaban untuk pertanyaan Anda, semua yang ditulis semua orang di atas adalah benar dan itu adalah alasan matematis untuk ini. Namun, saya menduga Anda adalah seorang pelajar dan baru dalam topik ini sehingga solusi matematika kontra-intuitif untuk hal-hal yang jelas secara visual mungkin tidak benar.

Saya memiliki dua sampel dunia nyata yang hampir identik, diambil dari distribusi Cauchy, keduanya memiliki mode yang sama dan kemungkinan kesalahan yang sama. Satu memiliki rata-rata 1,27 dan satu memiliki rata-rata 1,33. Yang dengan rata-rata 1,27 memiliki standar deviasi 400, yang dengan rata-rata 1,33 memiliki standar deviasi 5,15. Kesalahan yang mungkin untuk keduanya adalah .32 dan mode adalah 1. Ini berarti bahwa untuk data simetris, rata-rata tidak berada di 50% pusat. Hanya perlu SATU pengamatan tambahan untuk mendorong mean dan / atau varians luar signifikansi untuk setiap tes. Alasannya adalah bahwa mean dan varians bukan parameter dan mean sampel dan varians sampel itu sendiri adalah angka acak.

Jawaban paling sederhana adalah bahwa parameter distribusi Cauchy tidak termasuk rata-rata dan karenanya tidak ada perbedaan tentang rata-rata.

Sangat mungkin bahwa dalam pedagogi masa lalu Anda pentingnya rata-rata adalah bahwa biasanya statistik yang memadai. Dalam statistik berbasis frekuensi jangka panjang, distribusi Cauchy tidak memiliki statistik yang cukup. Memang benar bahwa median sampel, untuk distribusi Cauchy dengan dukungan atas seluruh real, adalah statistik yang cukup, tetapi itu karena ia mewarisi itu dari menjadi statistik pesanan. Ini semacam kebetulan yang cukup, tidak memiliki cara mudah untuk memikirkannya. Sekarang dalam statistik Bayesian ada statistik yang cukup untuk parameter distribusi Cauchy dan jika Anda menggunakan seragam sebelumnya maka itu juga tidak bias. Saya membahas hal ini karena jika Anda harus menggunakannya setiap hari, Anda telah belajar tentang segala cara untuk melakukan estimasi pada mereka.

Tidak ada statistik pesanan yang valid yang dapat digunakan sebagai penaksir untuk distribusi Cauchy yang terpotong, yang kemungkinan besar akan Anda hadapi di dunia nyata, sehingga tidak ada statistik yang cukup dalam metode berbasis frekuensi untuk sebagian besar tetapi tidak semua aplikasi dunia nyata .

Apa yang saya sarankan adalah menjauh dari mental, secara mental, sebagai sesuatu yang nyata. Ini adalah alat, seperti palu, yang bermanfaat secara luas dan biasanya dapat digunakan. Terkadang alat itu tidak berfungsi.

Catatan matematika tentang distribusi normal dan Cauchy. Ketika data diterima sebagai deret waktu, maka distribusi normal hanya terjadi ketika kesalahan menyatu ke nol saat t menuju tak terhingga. Ketika data diterima sebagai rangkaian waktu, maka distribusi Cauchy terjadi ketika kesalahan menyimpang hingga tak terbatas. Satu karena seri konvergen, yang lain karena seri divergen. Distribusi Cauchy tidak pernah sampai pada titik tertentu pada batas, mereka berayun bolak-balik melintasi titik tetap sehingga lima puluh persen dari waktu mereka berada di satu sisi dan lima puluh persen dari waktu di sisi lain. Tidak ada pengembalian rata-rata.


9
Ada beberapa kebingungan dalam respons ini! Misalnya, dikatakan "Sekarang dalam statistik Bayesian ada statistik yang cukup untuk parameter distribusi Cauchy dan jika Anda menggunakan seragam sebelumnya maka itu juga tidak bias.". Sulit untuk memahami ini! Pertama, konsep kecukupan Frequentist dan Bayesian sangat dekat (dan saya percaya dapat berbeda hanya dalam beberapa ruang sampel aneh, redup tak terbatas, sehingga untuk garis nyata adalah sama). Tidak ada statistik yang cukup untuk model Cauchy, dari dimensi tetap!, Cukup (data lengkap jelas cukup).
kjetil b halvorsen

-6

Sederhananya, area di bawah kurva mendekati tak terbatas saat Anda memperkecil. Jika Anda mencicipi wilayah terbatas, Anda dapat menemukan mean untuk wilayah itu. Namun, tidak ada artinya untuk ketakberhinggaan.


8
Area di bawah PDF sama dengan , menurut definisi, jadi Anda harus memaksudkan sesuatu yang lain dengan "kurva." Apa itu? 1
whuber
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.