Apakah ada kemungkinan lebih daripada Bayesianisme?

Sebagai seorang mahasiswa dalam bidang fisika, saya telah mengalami kuliah "Mengapa saya seorang Bayesian" mungkin setengah lusin kali. Itu selalu sama - presenter dengan sombong menjelaskan bagaimana penafsiran Bayesian lebih unggul daripada interpretasi yang sering digunakan oleh massa. Mereka menyebutkan aturan Bayes, marginalisasi, prior dan posteriors.

Apa kisah sebenarnya?

Apakah ada domain penerapan yang sah untuk statistik frequentist? (Tentunya dalam pengambilan sampel atau menggulung dadu berkali-kali itu harus diterapkan?)

Adakah filosofi probabilistik yang berguna di luar "bayesian" dan "frequentist"?

Interpretasi Bayesian tentang probabilitas sudah cukup untuk tujuan praktis. Tetapi meskipun diberi interpretasi Bayesian tentang probabilitas, ada lebih banyak statistik daripada probabilitas , karena fondasi statistik adalah teori keputusan dan teori keputusan tidak hanya membutuhkan kelas model probabilitas tetapi juga spesifikasi kriteria optimalitas untuk aturan keputusan. Dalam kriteria Bayes, aturan keputusan optimal dapat diperoleh melalui aturan Bayes; tetapi banyak metode yang sering dibenarkan di bawah minimax dan kriteria keputusan lainnya.

"Bayesian" dan "frequentist" bukanlah "filosofi probabilistik". Mereka sekolah pemikiran statistik dan praktik yang terutama berkaitan dengan mengukur ketidakpastian dan membuat keputusan, meskipun mereka sering dikaitkan dengan interpretasi probabilitas tertentu. Mungkin persepsi yang paling umum, meskipun tidak lengkap, adalah bahwa probabilitas sebagai kuantifikasi subyektif dari keyakinan versus probabilitas sebagai frekuensi jangka panjang. Tetapi bahkan ini tidak benar-benar eksklusif. Dan Anda mungkin tidak menyadari hal ini tetapi ada orang Bayesian yang mengaku tidak setuju pada masalah filosofis tertentu tentang probabilitas.

Statistik Bayesian dan statistik frequentist juga tidak ortogonal. Sepertinya "frequentist" berarti "bukan Bayesian" tetapi itu tidak benar. Sebagai contoh, sangat masuk akal untuk mengajukan pertanyaan tentang properti estimator Bayesian dan interval kepercayaan dalam pengambilan sampel berulang. Ini adalah dikotomi palsu yang diabadikan setidaknya sebagian oleh kurangnya definisi umum tentang istilah Bayesian dan frequentist (kami para ahli statistik tidak memiliki orang untuk disalahkan kecuali diri kami sendiri untuk itu).

Untuk diskusi yang lucu, runcing, dan penuh pertimbangan, saya akan menyarankan "Keberatan terhadap Bayesian Statistics" Gelman, komentar, dan jawaban, tersedia di sini:

http://ba.stat.cmu.edu/vol03is03.php

Bahkan ada beberapa diskusi tentang interval kepercayaan dalam fisika IIRC. Untuk diskusi yang lebih mendalam, Anda bisa menelusuri referensi di dalamnya. Jika Anda ingin memahami prinsip-prinsip di balik inferensi Bayesian, saya akan menyarankan buku Bernando & Smith tetapi ada banyak, banyak referensi bagus lainnya.

Lihatlah makalah ini oleh Cosma Shalizi dan Andrew Gelman tentang filsafat dan Bayesianisme. Gelman adalah bayesian yang terkenal dan Shalizi seorang yang sering!

Lihatlah juga kritik singkat ini oleh Shalizi ini, di mana ia menunjukkan perlunya memeriksa model dan mengejek argumen buku belanda yang digunakan oleh beberapa orang Bayesia.

Dan yang terakhir, namun tidak kalah pentingnya, saya berpikir bahwa, karena Anda seorang fisikawan, Anda mungkin menyukai teks ini , di mana penulis menunjuk ke "teori pembelajaran komputasi" (yang terus terang saya tidak tahu sama sekali), yang bisa menjadi alternatif untuk Bayesianisme , sejauh yang saya bisa memahaminya (tidak banyak).

ps .: Jika Anda mengikuti tautan, khususnya yang terakhir dan memiliki pendapat tentang teks (dan diskusi yang mengikuti teks di blog penulis )

ps.2: Pandangan saya sendiri tentang ini: Lupakan masalah probabilitas obyektif vs subyektif, prinsip kemungkinan dan argumen tentang perlunya bersikap koheren. Metode Bayesian baik ketika mereka memungkinkan Anda untuk memodelkan masalah Anda dengan baik (misalnya, menggunakan sebelum menginduksi posterior unimodal ketika ada kemungkinan bimodal dll.) Dan hal yang sama berlaku untuk metode frequentist. Juga, lupakan hal-hal tentang masalah dengan nilai-p. Maksud saya, p-value menyebalkan, tetapi pada akhirnya mereka adalah ukuran ketidakpastian, dalam semangat bagaimana Fisher memikirkannya.

Bagi saya, hal penting tentang Bayesianisme adalah bahwa menganggap probabilitas memiliki makna yang sama dengan yang kita terapkan secara intuitif dalam kehidupan sehari-hari, yaitu tingkat masuk akal kebenaran sebuah proposisi. Sangat sedikit dari kita yang benar-benar menggunakan probabilitas yang berarti frekuensi jangka panjang dalam penggunaan sehari-hari, jika hanya karena kita sering tertarik pada peristiwa tertentu yang tidak memiliki frekuensi jangka panjang, misalnya berapa probabilitas bahwa emisi bahan bakar fosil menyebabkan perubahan iklim yang signifikan ? Untuk alasan ini, statistik Bayesian jauh lebih rentan terhadap salah tafsir daripada statistik sering.

Bayesianisme juga memiliki marginalisasi, prior, maksimal, kelompok transformasi, dll. Yang semuanya memiliki kegunaannya, tetapi bagi saya manfaat utama adalah bahwa definisi probabilitas lebih sesuai untuk jenis masalah yang ingin saya atasi.

Itu tidak membuat statistik Bayesian lebih baik daripada statistik frequentist. Bagi saya, statistik frequentist cocok untuk masalah dalam pengendalian kualitas (di mana Anda melakukan pengambilan sampel berulang-ulang dari populasi) atau di mana Anda telah merancang eksperimen, daripada menganalisis data yang dikumpulkan sebelumnya (meskipun itu agak di luar keahlian saya, jadi ini hanya intuisi).

Sebagai seorang insinyur, ini adalah masalah "kuda untuk kursus" dan saya memiliki kedua set alat di kotak alat saya dan saya menggunakan keduanya secara teratur.

Ada sistem atau filosofi probabilitas non-Bayesian - Baconian & Pascalian, mis. Jika Anda menyukai epistemologi & filsafat sains, Anda mungkin menikmati perdebatan - jika tidak, Anda akan menggelengkan kepala & menyimpulkan bahwa sebenarnya penafsiran Bayesian adalah semua ada.

Untuk diskusi yang baik,

• Cohen, LJ Pengantar filosofi induksi dan probabilitas, (Clarendon Press; Oxford University Press, Oxford New York, 1989)
• Schum, DA Dasar bukti penalaran probabilistik, (Wiley, New York, 1994).