Bagaimana pengetahuan sebelumnya dimungkinkan dalam kerangka Bayesian murni?

Ini lebih merupakan pertanyaan filosofis, tetapi dari sudut pandang Bayesian murni bagaimana sebenarnya seseorang membentuk pengetahuan sebelumnya? Jika kita memerlukan informasi sebelumnya untuk melakukan kesimpulan yang valid maka tampaknya ada masalah jika kita harus menarik pengalaman masa lalu dalam membenarkan prior hari ini. Kami rupanya dibiarkan dengan pertanyaan yang sama tentang bagaimana kesimpulan kemarin valid, dan semacam kemunduran yang tak terbatas tampaknya mengikuti di mana tidak ada pengetahuan yang dibenarkan. Apakah ini berarti bahwa pada akhirnya informasi sebelumnya harus diasumsikan secara sewenang-wenang, atau mungkin didasarkan pada gaya inferensi yang lebih "sering"?

bayesian inference philosophical

— dsaxton
sumber

Bagaimana dengan pengetahuan sebelumnya yang berasal dari percobaan sebelumnya?

— Christoph Hanck

Itulah pertanyaan yang saya ajukan. Bagaimana orang-orang percobaan menghasilkan pengetahuan yang sebenarnya?

— dsaxton

Anda sendiri adalah produk dari proses probabilistik stokastik. (Kecuali jika Anda memiliki kepercayaan sebelumnya yang jauh lebih tinggi pada ciptaan ilahi spesifik Anda daripada saya). Jadi saya kira, ya, memiliki kesadaran dan memiliki kemampuan untuk bernalar dan menjelma sebagai dsaxton yang memilih Pi Day untuk mengajukan pertanyaan ini dapat dilihat didasarkan pada sesuatu seperti urutan tak terbatas dari kemungkinan pengulangan atas multiverse yang tak terbatas. Tapi itu mungkin terlalu dipikirkan.

— Dalton Hance

@dsaxton, misalnya dengan menghasilkan taksiran, katakanlah, keefektifan obat, yang kemudian kami upayakan perbarui melalui sampel baru.

— Christoph Hanck

Benar, tetapi apakah ini kemudian mereduksi menjadi semacam kerapuhan "kumulatif"?

— dsaxton

Jawaban:

Berbicara tentang pengetahuan sebelumnya bisa menyesatkan, itu sebabnya Anda sering melihat orang berbicara tentang kepercayaan sebelumnya . Anda tidak perlu memiliki pengetahuan sebelumnya untuk mengatur sebelumnya. Jika Anda membutuhkannya, bagaimana cara Longley-Cook menangani masalahnya?

Ini adalah contoh dari tahun 1950-an ketika Longley-Cook, seorang aktuaris di sebuah perusahaan asuransi, diminta untuk memberi harga risiko tabrakan dua pesawat di udara, suatu peristiwa yang sejauh yang dia tahu tidak pernah terjadi sebelumnya. Industri penerbangan sipil masih sangat muda, tetapi berkembang pesat dan Yang Longely-Cook tahu adalah bahwa tidak ada tabrakan dalam 5 tahun sebelumnya.

Kurangnya data tentang tabrakan di udara bukan masalah untuk menetapkan beberapa sebelum itu yang mengarah pada kesimpulan yang cukup akurat seperti yang dijelaskan oleh Markus Gesmann . Ini adalah contoh ekstrem dari data tidak mencukupi dan tidak ada pengetahuan sebelumnya, tetapi dalam kebanyakan situasi kehidupan nyata Anda akan memiliki beberapa keyakinan out-of-data tentang masalah Anda, yang dapat diterjemahkan ke prior.

Ada kesalahpahaman umum tentang prior bahwa mereka harus entah bagaimana "benar", atau "unik". Bahkan, Anda dapat dengan sengaja menggunakan prior "salah" untuk memvalidasi keyakinan yang berbeda terhadap data Anda. Pendekatan semacam itu dijelaskan oleh Spiegelhalter (2004) yang menggambarkan bagaimana "komunitas" prior (misalnya "skeptis", atau "optimis") dapat digunakan dalam skenario pengambilan keputusan. Dalam hal ini bahkan bukan kepercayaan sebelumnya yang digunakan untuk membentuk prior, melainkan hipotesis sebelumnya.

Karena ketika menggunakan pendekatan Bayesian, Anda memasukkan prior dan data ke dalam model Anda, informasi dari kedua sumber akan digabungkan. Semakin informatif Anda membandingkan data, semakin besar pengaruh itu, semakin informatif informasi Anda, semakin sedikit pengaruh sebelumnya .

Akhirnya, "semua model salah, tetapi beberapa berguna" . Prior menggambarkan kepercayaan yang Anda masukkan dalam model Anda, mereka tidak harus benar. Sudah cukup jika mereka membantu untuk masalah Anda, karena kami hanya berurusan dengan perkiraan realitas yang dijelaskan oleh model Anda. Ya, mereka adalah subjektif. Seperti yang sudah Anda perhatikan, jika kami membutuhkan pengetahuan sebelumnya untuk mereka, kami akan berakhir dalam lingkaran setan. Keindahan mereka adalah bahwa mereka dapat dibentuk bahkan ketika dihadapkan dengan kekurangan data, sehingga untuk mengatasinya.

Spiegelhalter, DJ (2004). Memasukkan ide Bayesian ke dalam evaluasi perawatan kesehatan. Ilmu Statistik, 156-174.

— Tim
sumber

Komunitas priors adalah bastardisasi yang jelas dari pendekatan Bayesian. Kecuali seseorang memiliki kepribadian ganda, tidak akan ada banyak prioritas. Prior seharusnya menangkap keyakinan Anda sebelumnya, semua yang Anda ketahui tentang fenomena tersebut. Jika Anda memiliki banyak prior, Anda akan mengalami lebih banyak masalah filosofis daripada pendekatan Bayesian.

— Aksakal

@ Aksakal menggunakan mereka seperti yang dijelaskan oleh Spiegelhalter cukup menarik: menggunakan prior berbeda dan membandingkan hasilnya dan memeriksa seberapa besar mereka mempengaruhi hasilnya. Selain itu, mereka adalah contoh yang bagus bahwa sebelumnya tidak harus "benar".

— Tim

itu menarik secara teknis tetapi tidak konsisten secara logis. Ini pada dasarnya membunuh seluruh statistik Bayesian tentang kepercayaan, probabilitas subjektif dll. Jika Anda memiliki banyak prior, mengapa tidak memiliki jumlah prior yang tak terbatas? Dalam hal ini bagaimana ini berbeda dari pendekatan yang sering? Setelah Anda menjalankan jumlah prior yang tak terbatas, hasil Anda akan menyatu dengan hasil frequentist murni atau informasi sebelum atau sesuatu yang tidak sejalan dengan itu.

— Aksakal

@Aksakal ketika membuat satu sebelum Anda "mempertimbangkan" berbagai sumber bukti "di kepala Anda" untuk menghasilkan sesuatu - bagaimana bedanya dengan menetapkan beberapa prior, satu per sumber kepercayaan?

— Tim

Terima kasih khusus untuk referensi kepada Spiegelhalter 2004. Saya suka kalimat ini dari paragraf penutup: "Komunitas statistik umum, yang tidak bodoh, telah menemukan agak melelahkan nada merendahkan kebenaran diri sendiri yang sering datang dari lobi Bayesian. "

— amoeba

Saya pikir Anda membuat kesalahan dengan menerapkan sesuatu seperti konsep probabilitas yang kerap terjadi pada fondasi definisi subyektif. Semua yang sebelumnya ada dalam kerangka kerja subyektif adalah kuantifikasi keyakinan saat ini, sebelum memperbaruinya. Menurut definisi, Anda tidak perlu sesuatu yang konkret untuk sampai pada keyakinan itu dan itu tidak perlu valid, Anda hanya perlu memilikinya dan mengukurnya.

Sebelumnya dapat menjadi informatif atau tidak informatif dan dapat menjadi kuat atau lemah. Inti dari skala tersebut adalah bahwa Anda tidak memiliki asumsi tersirat tentang validitas pengetahuan Anda sebelumnya, Anda memiliki yang eksplisit, dan kadang-kadang bisa jadi "Saya tidak punya informasi." Atau bisa juga "Saya tidak percaya diri dengan informasi yang saya miliki." Intinya adalah, tidak ada persyaratan bahwa pengetahuan sebelumnya adalah "valid". Dan asumsi itu adalah satu-satunya alasan skenario Anda tampak paradoks.

Omong-omong, jika Anda suka berpikir tentang filosofi probabilitas, Anda harus membaca The Emergence of Probability oleh Ian Hacking dan sekuelnya, The Taming of Chance . Buku pertama khususnya benar-benar menjelaskan bagaimana konsep probabilitas memiliki definisi ganda dan tampaknya tidak sesuai. Sebagai penggoda: apakah Anda tahu bahwa hingga baru-baru ini, menyebut sesuatu "kemungkinan" berarti bahwa "disetujui", yaitu bahwa "disetujui oleh pihak berwenang" atau bahwa itu adalah pendapat yang secara umum dihormati. Itu tidak ada hubungannya dengan konsep kemungkinan.

— Robert E Mealey
sumber

Pernyataan menarik tentang arti "kemungkinan". Sampai cukup baru sampai kapan tepatnya? Saya menemukan 11 kemunculan "kemungkinan" dalam karya-karya Shakespeare dan mereka tampaknya memiliki makna yang biasa. Itu 400 tahun yang lalu.

— amoeba

Melihat semua kutipan itu, saya pikir jika Anda membacanya dengan definisi aslinya, itu lebih masuk akal. Tapi contoh terbaik dalam Emergence adalah dari Gibbon's Decline dan Fall of the Roman Empire, satu dari catatan pribadi Gibbon dan satu dari catatan kaki. Catatan pribadi itu berbunyi, "Kalau begitu, mari kita simpulkan, meskipun dengan sisa-sisa skeptisisme, bahwa meskipun narasi Livy memiliki lebih banyak peluang, namun Polybius memiliki lebih banyak kebenaran." Dan catatan kaki, dalam Bab xxiv penurunan dan jatuh, berbunyi: "Fakta seperti itu mungkin tapi tidak diragukan salah."

— Robert E Mealey

Satu lagi yang benar-benar menarik, juga dari Emergence, adalah dari seorang penulis pertengahan 1700-an bernama Thomas Church, sebagai tanggapan atas serangan David Hume pada kredibilitas mukjizat ...

— Robert E Mealey

Mengutip dari Munculnya: "Penulis bersusah payah untuk menegaskan bahwa kredibilitas adalah relatif terhadap bukti. Gereja memberikan, 'bahwa dalam wacana umum, bukanlah hal yang tidak biasa untuk menyebut sesuatu yang kredibel atau luar biasa, yang mendahului pertimbangan kita akan pembuktiannya. Tetapi jika kita memeriksa ide-ide kita, ini akan ditemukan sebagai cara longgar filosofis untuk mengekspresikan diri kita sendiri.Yang dapat diartikan adalah, bahwa hal seperti itu mungkin atau tidak mungkin, mungkin atau tidak mungkin, atau, paling jauh, terjadi sangat sering, atau sangat jarang [1750, hal. 60]. "

— Robert E Mealey

Tapi kembali ke kutipan shakespeare, sebenarnya, itu adalah contoh yang cukup menarik. Karena sebagian besar dari mereka memang masuk akal ketika mendefinisikan kemungkinan dengan cara modern, tetapi semuanya juga masuk akal jika Anda membacanya untuk merujuk pada seberapa "dapat dipercaya" atau "masuk akal" subjek yang dimaksud adalah atau seharusnya .

— Robert E Mealey