Terminologi untuk Bayesian Posterior Mean of Probability dengan Uniform Prior

Jika Uniform , dan Bin , maka rata-rata posterior diberikan oleh . $p \sim$ $(0,1)$ $X \sim$ $(n, p)$ $p$ $\frac{X+1}{n+2}$

Apakah ada nama umum untuk penaksir ini? Saya telah menemukannya memecahkan banyak masalah orang dan saya ingin dapat mengarahkan orang ke referensi, tetapi belum dapat menemukan nama yang tepat untuk itu.

Samar-samar saya ingat ini disebut sesuatu seperti "+1 / + 2 estimator" di buku statistik 101 tapi itu bukan istilah yang sangat dicari.

bayesian terminology laplace-smoothing

— Cliff AB
sumber

Jawaban:

Dengan sebelumnya dan kemungkinan menunjukkan keberhasilan dalam percobaan, distribusi posterior adalah (Ini mudah dilihat dengan mengalikan kernel dari prior dan kemungkinan untuk mendapatkan kernel dari posterior.) $\mathsf{Unif}(0,1) \equiv \mathsf{Beta}(\alpha_0=1,\beta_0 =1)$ $\mathsf{Binom}(n, \theta)$ $x$ $n$ $\mathsf{Beta}(\alpha_n=1 + x,\; \beta_n = 1 + n - x).$

Maka rata- rata posterior adalah

μ_{n} = \frac{α_{n}}{α_{n} + β} = \frac{x + 1}{n + 2} .

$\mu_n = \frac{\alpha_n}{\alpha_n+\beta} = \frac{x+1}{n+2}.$

Dalam konteks Bayesian, hanya menggunakan terminologi posterior berarti mungkin yang terbaik. (Median distribusi posterior dan maksimum PDF-nya juga telah digunakan untuk merangkum informasi posterior.)

Catatan: (1) Di sini Anda menggunakan sebagai distribusi sebelumnya noninformatif. Atas dasar teori yang kuat, beberapa ahli statistik Bayesian lebih suka menggunakan Jeffreys prior sebagai noninformatif sebelumnya. Maka rata-rata posterior adalah $\mathsf{Beta}(1,1)$ $\mathsf{Beta}(\frac 1 2, \frac 1 2)$ $\mu_n = \frac{x+.5}{n+1}.$

(2) Dalam membuat interval kepercayaan yang sering, Agresti dan Coull telah menyarankan "menambahkan dua keberhasilan dan dua kegagalan" pada sampel untuk mendapatkan interval kepercayaan berdasarkan pada estimator yang memiliki probabilitas cakupan yang lebih akurat (daripada interval Wald tradisional menggunakanDavid Moore menjuluki penaksir plus-empat ini dalam beberapa teks statistik dasar yang banyak digunakannya, dan terminologinya telah digunakan oleh yang lain. Saya tidak akan terkejut melihat penaksir Anda disebut 'plus dua' dan Jeffries 'disebut' plus satu '. $\hat p = \frac{x+2}{n+4},$ $\hat p = \frac x n).$

(3) Semua penaksir ini memiliki efek 'menyusutkan penaksir menjadi 1/2' sehingga mereka disebut 'penaksir penyusutan,' (istilah yang jauh lebih banyak digunakan, terutama dalam inferensi James-Stein). Lihat Jawab (+1) oleh @Taylor.

— BruceET
sumber

Terkait - stats.stackexchange.com/questions/185221 .

— Royi

ya, tetapi bagaimana itu membantu dengan terminologi ?

— BruceET

Ini membantu dengan derivasi yang Anda tulis itu mudah. Saya kira beberapa orang mungkin menghadapi pertanyaan ini dengan benar-benar mencari derivasi itu sendiri.

— Royi

(2) benar-benar apa yang saya tertarik. Saya tidak menyadari bahwa estimator disajikan untuk pembenaran Frequentist murni. Dalam kasus saya meresepkannya sebagai solusi, selalu seperti bagaimana menghitung probabilitas ketika multinomial tertentu belum pernah terlihat sebelumnya (yaitu, pengelompokan pada jumlah huruf dan satu kluster tidak menyertakan "z"), jadi tidak ada yang perlu dilakukan. lakukan dengan probabilitas cakupan CI. Terima kasih!

— Cliff AB

Dalam aplikasi praktis, Anda tidak dapat mengabaikan probabilitas cakupan atau panjang rata-rata CI. Jika tidak, Anda akan senang dengan CI 100% serba guna untuk probabilitas keberhasilan binomial adalah interval yang sepenuhnya tidak informatif// Suara positif untuk menyatakan dengan jelas dalam Komentar ini alasan Anda mengajukan pertanyaan.

(0, 1) .

$(0,1).$

— BruceET

Ini disebut penghalusan Laplace , atau aturan suksesi Laplace , sebagaimana Pierre-Simon Laplace menggunakannya untuk memperkirakan probabilitas matahari terbit lagi besok: "Dengan demikian kita menemukan bahwa suatu peristiwa telah terjadi beberapa kali, probabilitas bahwa itu akan terjadi lagi waktu berikutnya sama dengan jumlah ini meningkat oleh unit, dibagi dengan jumlah yang sama meningkat dua unit. "

Hanya dengan satu kata kunci saja untuk par marquis de Laplace

— Xi'an
sumber

(+1) untuk referensi sejarah

— BruceET

(+1) Baik ini dan jawaban @ BruceET berbeda tetapi jawaban yang benar untuk pertanyaan saya.

— Cliff AB

Anda bisa menyebutnya penaksir penyusutan . Estimator lebih dekat ke daripada rata-rata sampel yang lebih banyak di mana-mana. $.5$

— Taylor
sumber

(+1) Itu benar, itu adalah penaksir penyusutan. Saya ingin nama spesifik untuk kasus binomial / multinomial sehingga saya bisa mengarahkan peneliti lain ke materi pada estimator yang tepat sehingga mereka tidak berpikir saya hanya mengatakan "tambahkan 1 ke hal-hal sampai Anda mendapatkan jawaban yang Anda inginkan" tetapi juga tidak harus mulai dari awal menjelaskan apa itu statistik Bayesian.

— Cliff AB