Distribusi apa yang memiliki entropi maksimum untuk deviasi absolut rata-rata yang diketahui?


10

Saya membaca diskusi di Hacker News tentang penggunaan standar deviasi yang bertentangan dengan metrik lain seperti rata-rata deviasi absolut. Jadi, jika kita mengikuti prinsip entropi maksimum, distribusi seperti apa yang akan kita gunakan jika kita hanya tahu mean distribusi dan mean penyimpangan absolut?

Atau apakah lebih masuk akal untuk menggunakan median dan mean penyimpangan absolut dari median?

Saya menemukan sebuah makalah Prinsip Entropi Maksimum dengan Ukuran Penyimpangan Umum oleh Grechuk, Molyboha dan Zabarankin yang tampaknya memiliki informasi yang saya ingin tahu, tetapi perlu waktu untuk menguraikannya.


Pertanyaan menarik; selamat datang di Cross Divalidasi!
Nick Stauner

Jawaban:


13

Tuan-tuan yang bijaksana ini, Kotz, S., Kozubowski, TJ, & Podgorski, K. (2001). Distribusi dan Generalisasi Laplace: Kunjungan Kembali ke Aplikasi untuk Komunikasi, Ekonomi, Teknik, dan Keuangan (No. 183). Peloncat.

tantang kami dengan latihan:

masukkan deskripsi gambar di sini

f(x)g(x)

Eg(|Xc1|)=g(x)|xc1|dx=c2=f(x)|xc1|dx=Ef(|Xc1|)[1]

0DKL(g||f)=g(x)ln(g(x)f(x))dx=g(x)lng(x)dxg(x)lnf(x)dx[2]

gh(g)

g(x)ln[f(x)]dx=g(x)ln[12c2exp{1c2|xc1|}]dx
=ln[12c2]g(x)dx1c2g(x)|xc1|dx
[1]

g(x)ln[f(x)]dx=ln[2c2]1c2f(x)|xc1|dx=(ln[2c2]+1)
h(f)

[2]

0D(g||f)=h(g)(h(f))h(g)h(f)
g

Distribusi yang sederhana, dan penulisan yang bagus juga! Saya menduga distribusinya akan lancar kecuali pada 0.
Dietrich Epp

Terima kasih. Kadang-kadang "sama berjalan dengan sama" -jadi karena distribusi Laplace melibatkan nilai absolut, itu adalah tersangka utama.
Alecos Papadopoulos
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.