Dalam beberapa hal tidak ada statistik tanpa "parameter" dan "model". Ini adalah pelabelan sewenang-wenang sampai batas tertentu, tergantung pada apa yang Anda kenal sebagai "model" atau "parameter". Parameter dan model pada dasarnya cara menerjemahkan asumsi dan pengetahuan tentang dunia nyata ke dalam sistem matematika. Tetapi ini berlaku untuk semua algoritma matematika. Anda harus mengubah masalah Anda dari dunia nyata menjadi kerangka matematika apa pun yang ingin Anda gunakan untuk menyelesaikannya.
Menggunakan distribusi probabilitas yang telah ditetapkan berdasarkan beberapa prinsip adalah salah satu cara untuk melakukan konversi ini secara sistematis dan transparan. Prinsip-prinsip terbaik yang saya tahu adalah prinsip entropi maksimum (MaxEnt) dan prinsip kelompok transformasi (yang saya pikir bisa juga disebut prinsip "invarian" atau "masalah-ketidakpedulian").
Setelah ditetapkan, Anda dapat menggunakan teori probabilitas Bayesian untuk memanipulasi probabilitas "input" yang koheren yang berisi informasi dan asumsi Anda ke dalam probabilitas "keluaran" yang memberi tahu Anda seberapa besar ketidakpastian yang ada dalam analisis yang Anda minati.
Beberapa pengantar dari perspektif Bayes / MaxEnt yang dijelaskan di atas dapat ditemukan di sini , di sini , dan di sini . Ini didasarkan pada interpretasi probabilitas sebagai perpanjangan dari logika deduktif. Mereka lebih pada sisi teoretis.
Sebagai catatan akhir kecil, saya merekomendasikan metode ini terutama karena mereka tampaknya paling menarik bagi saya - saya tidak bisa memikirkan alasan teoretis yang baik untuk meninggalkan perilaku normatif yang ada di balik pemikiran Bayes / MaxEnt. Tentu saja, Anda mungkin tidak dipaksa seperti saya, dan saya dapat memikirkan beberapa kompromi praktis tentang kelayakan dan keterbatasan perangkat lunak. Statistik "dunia nyata" sering kali tentang ideologi mana yang Anda dekati (kira-kira Bayes vs kira-kira Kemungkinan Maksimum vs kira-kira berdasarkan Desain) atau ideologi mana yang Anda pahami dan dapat Anda jelaskan kepada klien Anda.