Mengapa seorang Bayesian tidak diizinkan untuk melihat residunya?

Dalam artikel "Diskusi: Haruskah Ekolog Menjadi Bayesians?" Brian Dennis memberikan pandangan yang mengejutkan dan positif dari statistik Bayesian ketika tujuannya tampaknya untuk memperingatkan orang tentang hal itu. Namun, dalam satu paragraf, tanpa kutipan atau justifikasi, ia mengatakan:

Bayesians, Anda lihat, tidak diizinkan untuk melihat residu mereka. Itu melanggar prinsip kemungkinan untuk menilai suatu hasil dengan seberapa ekstremnya itu di bawah model. Bagi seorang Bayesian, tidak ada model yang buruk, hanya keyakinan buruk.

Mengapa seorang Bayesian tidak diizinkan untuk melihat residunya? Apa kutipan yang sesuai untuk ini (yaitu siapa yang ia kutip)?

Dennis, B.
Diskusi: Haruskah Ekolog Menjadi Bayesians?
Aplikasi Ekologis, Masyarakat Ekologis Amerika , 1996 , 6, 1095-1103

Tentu saja orang Bayes dapat melihat residunya! Dan tentu saja ada model buruk dalam analisis Bayesian. Mungkin beberapa orang Bayesian di tahun 70-an mendukung pandangan seperti itu (dan saya ragu itu), tetapi Anda tidak akan menemukan orang Bayesian yang mendukung pandangan ini akhir-akhir ini.

Saya tidak membaca teks, tetapi orang Bayesian menggunakan hal-hal seperti faktor Bayes untuk membandingkan model. Sebenarnya, seorang Bayesian bahkan dapat menghitung probabilitas model menjadi benar dan memilih model yang lebih mungkin benar. Atau Bayesian dapat rata-rata di seluruh model, untuk mencapai model yang lebih baik. Atau dapat menggunakan pemeriksaan prediktif posterior. Ada banyak pilihan untuk memeriksa suatu model dan masing-masing dapat mendukung satu pendekatan atau yang lain, tetapi untuk mengatakan bahwa tidak ada model yang buruk dalam analisis Bayesian adalah tidak masuk akal.

Jadi, paling banyak, akan lebih tepat untuk mengatakan bahwa dalam beberapa versi ekstrim Bayesianisme (versi ekstrem yang hampir tidak ada yang menggunakan pengaturan, Anda tidak diperbolehkan memeriksa model Anda. Tapi daripada yang bisa Anda katakan bahwa dalam beberapa versi ekstrim frekuensi Anda tidak diperbolehkan menggunakan data pengamatan juga. Tetapi mengapa membuang-buang waktu membahas hal-hal konyol ini, ketika kita dapat mendiskusikan jika dan kapan, dalam lingkungan terapan, kita harus menggunakan metode Bayesian atau sering atau apa pun? Itulah yang penting, menurut saya.

Pembaruan: OP meminta referensi seseorang yang menganjurkan versi ekstrim Bayes. Karena saya tidak pernah membaca versi ekstrim Bayes, saya tidak dapat memberikan referensi ini. Tapi saya kira Savage mungkin referensi seperti itu. Saya tidak pernah membaca apa pun yang ditulis olehnya, jadi saya mungkin salah.

ps .: Pikirkan tentang masalah "Bayesian yang dikalibrasi dengan baik" ( Dawid (1982), JASA , 77 , 379 ). Peramal Bayesian yang subyekti koheren tidak dapat tidak dikalibrasi, dan karenanya tidak akan meninjau model / ramalannya meskipun ada banyak bukti bahwa ia tidak dikalibrasi. Tapi saya tidak berpikir siapa pun dalam praktiknya dapat mengklaim sebagai yang koheren. Jadi, tinjauan model penting.

ps2 .: Saya suka makalah ini dari Efron juga. Referensi lengkapnya adalah: Efron, Bradley (2005). "Bayesians, frequentist, dan ilmuwan." Jurnal Asosiasi Statistik Amerika 100 (469).

Mereka bisa melihat tetapi tidak menyentuh. Bagaimanapun, residu adalah bagian dari data yang tidak membawa informasi apa pun tentang parameter model, dan sebelumnya mereka menyatakan semua ketidakpastian tentang hal itu — mereka tidak dapat mengubah prioritasnya berdasarkan apa yang mereka lihat dalam data.

Sebagai contoh, misalkan Anda memasang model Gaussian, tetapi perhatikan terlalu banyak kurtosis pada residu. Mungkin hipotesis Anda sebelumnya seharusnya adalah distribusi-t dengan probabilitas non-nol di atas derajat kebebasan yang rendah, tetapi ternyata tidak — itu adalah distribusi-t secara efektif dengan probabilitas nol di mana-mana kecuali pada derajat kebebasan tanpa batas. Tidak ada dalam kemungkinan dapat menghasilkan probabilitas non-nol atas wilayah kepadatan posterior di mana kepadatan sebelumnya adalah nol. Jadi gagasan untuk terus memperbarui prior berdasarkan kemungkinan dari data tidak berfungsi ketika yang asli sebelumnya salah ditentukan.

Tentu saja jika Anda Google "memeriksa model Bayesian", Anda akan melihat ini adalah parodi dari praktik Bayesian yang sebenarnya; tetap saja, itu memang merepresentasikan sesuatu yang sulit bagi argumen Logika Ilmu Pengetahuan - jenis keunggulan superioritas Bayesianisme atas dasar filosofis. Blog Andrew Gelman menarik pada topik ini.