Pengoperasian peluang dalam dunia deterministik

15

Dalam buku Steven Pinker, Better Angels of Our Nature , ia mencatat itu

Probabilitas adalah masalah perspektif. Dilihat dari jarak yang cukup dekat, peristiwa individu memiliki penyebab yang menentukan. Bahkan flip koin dapat diprediksi dari kondisi awal dan hukum fisika, dan pesulap yang ahli dapat mengeksploitasi hukum tersebut untuk melempar kepala setiap saat. Namun ketika kita melakukan zoom out untuk mengambil sudut pandang luas dari sejumlah besar peristiwa ini, kita melihat jumlah dari sejumlah besar penyebab yang kadang-kadang membatalkan satu sama lain dan kadang-kadang sejajar dalam arah yang sama.Fisikawan dan filsuf Henri Poincare menjelaskan bahwa kita melihat operasi kebetulan di dunia deterministik baik ketika sejumlah besar penyebab kecil menambah efek yang hebat, atau ketika penyebab kecil yang lolos dari pemberitahuan kita menentukan efek besar yang tidak dapat kita lewatkan .Dalam kasus kekerasan terorganisir, seseorang mungkin ingin memulai perang; dia menunggu saat yang tepat, yang mungkin atau mungkin tidak datang; musuhnya memutuskan untuk terlibat atau mundur; peluru terbang; bom meledak; orang orang mati. Setiap peristiwa dapat ditentukan oleh hukum ilmu saraf dan fisika dan fisiologi. Namun secara agregat, banyak penyebab yang masuk ke matriks ini kadang-kadang dapat dikocok menjadi kombinasi ekstrim. (hlm. 209)

Saya sangat tertarik pada kalimat tebal, tetapi saya memberikan sisanya untuk konteks. Pertanyaan saya: apakah ada cara statistik untuk menggambarkan dua proses yang dijelaskan Poincare? Inilah tebakan saya:

1) "Sejumlah besar penyebab kecil menambah efek yang tangguh." "Sejumlah besar penyebab" dan "menjumlahkan" terdengar bagi saya seperti teorema batas pusat . Tetapi dalam (definisi klasik) CLT, penyebabnya harus variabel acak, bukan efek deterministik. Apakah metode standar di sini untuk memperkirakan efek deterministik ini sebagai semacam variabel acak?

2) "Penyebab kecil yang lolos dari pemberitahuan kami menentukan efek besar yang tidak dapat kami lewatkan." Sepertinya saya seperti Anda bisa menganggap ini sebagai semacam model Markov yang tersembunyi . Tetapi probabilitas transisi keadaan (yang tidak dapat diobservasi) dalam HMM hanyalah probabilitas, yang menurut definisi sekali lagi tidak deterministik.

probability central-limit-theorem intuition

— Andy McKenzie
sumber

7

Pikiran yang menarik (+1).

Dalam kasus 1) dan 2), masalahnya sama: kami tidak memiliki informasi lengkap. Dan probabilitas adalah ukuran dari kurangnya informasi.

1) Penyebab kecil mungkin murni deterministik, tetapi penyebab khusus mana yang beroperasi tidak mungkin diketahui oleh proses deterministik. Pikirkan molekul dalam gaz. Hukum mekanika berlaku, jadi apa yang acak di sini? Informasi yang tersembunyi bagi kami: di mana molekul dengan kecepatan apa. Jadi CLT berlaku, bukan karena ada keacakan dalam sistem, tetapi karena ada keacakan dalam kita representasi dari sistem .

2) Ada komponen waktu dalam HMM yang belum tentu ada dalam kasus ini. Interpretasi saya sama seperti sebelumnya, sistemnya mungkin tidak acak, tetapi akses kami ke keadaannya memiliki keacakan.

EDIT : Saya tidak tahu apakah Poincare memikirkan pendekatan statistik yang berbeda untuk kedua kasus ini. Dalam kasus 1) kita tahu varialbes, tetapi kita tidak bisa mengukurnya karena terlalu banyak dan terlalu kecil. Dalam kasus 2) kita tidak tahu variabelnya. Kedua cara, Anda akhirnya membuat asumsi dan memodelkan yang dapat diobservasi sebaik mungkin, dan cukup sering kita menganggap Normalitas dalam kasus 2).

Tapi tetap saja, jika ada satu perbedaan, saya pikir itu akan muncul . Jika semua sistem ditentukan dengan jumlah penyebab kecil maka semua variabel acak dari dunia fisik akan menjadi Gaussian. Sudah jelas ini bukanlah kasusnya. Mengapa? Karena masalah skala. Mengapa? Karena properti baru muncul dari interaksi pada skala yang lebih kecil, dan properti baru ini tidak perlu Gaussian. Sebenarnya, kami tidak memiliki teori statistik untuk kemunculan (sejauh yang saya tahu), tetapi mungkin suatu hari kita akan melakukannya. Maka akan dibenarkan untuk memiliki pendekatan statistik yang berbeda untuk kasus 1) dan 2)

— gui11aume
sumber

1

Terima kasih atas jawabannya. Setuju baik karena fakta bahwa kita tidak memiliki informasi lengkap - itu adalah cara yang baik untuk membingkainya. Namun, saya ingin melihat jawaban yang membedakan antara dua kasus lebih banyak. Apa yang dipikirkan Poincare?

— Andy McKenzie

Saya melihat Anda prihatin. Saya mengedit jawaban saya untuk mencoba dan menjawab yang terbaik yang saya bisa.

— gui11aume

4

Saya pikir Anda terlalu banyak membaca pernyataan itu. Semuanya tampaknya terletak di bawah premis bahwa dunia bersifat deterministik dan bahwa manusia memodelkannya secara probabilistik karena lebih mudah memperkirakan apa yang terjadi dengan cara itu daripada melalui semua perincian fisika dan persamaan matematika lainnya yang menggambarkannya. Saya berpikir bahwa telah ada perdebatan lama tentang determininisme versus efek acak khususnya antara fisikawan dan ahli statistik. Saya terutama terkejut oleh kalimat-kalimat sebelumnya untuk apa yang Anda berani. "Bahkan lemparan koin dapat diprediksi dari kondisi awal dan hukum fisika, dan penyihir yang ahli dapat mengeksploitasi hukum itu untuk melempar kepala setiap saat." Ketika saya masih menjadi mahasiswa pascasarjana di Stanford pada akhir 1970-an Persi Diaconis seorang ahli statistik dan pesulap dan Joe Keller seorang ahli fisika benar-benar mencoba untuk menerapkan hukum fisika pada flip koin untuk menentukan apa yang otucome akan didasarkan pada kondisi awal mengenai apakah atau tidak kepala menghadap ke atas dan tepat; y bagaimana kekuatan jari jepit memukul koin. Saya pikir mereka mungkin berhasil. Tetapi untuk berpikir penyihir bahkan dengan pelatihan magis dan pengetahuan statistik dari seorang diaconis persi dapat membalik koin dan memilikinya muncul setiap kali tidak masuk akal. Saya percaya mereka menemukan bahwa tidak mungkin untuk meniru kondisi awal dan saya pikir teori chaos berlaku. Gangguan kecil dalam kondisi awal memiliki efek besar pada penerbangan koin dan membuat hasilnya tidak dapat diprediksi. Sebagai ahli statistik saya akan mengatakan bahkan jika dunia adalah model stokastik deterministik melakukan pekerjaan yang lebih baik dalam memprediksi hasil daripada hukum deterministik yang kompleks. Ketika fisika adalah hukum deterministik sederhana dapat dan harus digunakan. Misalnya hukum gravitasi Newton bekerja dengan baik dalam menentukan kecepatan suatu benda ketika menyentuh tanah yang jatuh dari 10 kaki di atas tanah dan menggunakan persamaan d = gt $^2$

— Michael R. Chernick
sumber

2

Michael Chernick, Anda mungkin tertarik pada artikel ini tentang Diaconis.

— Cyan

Saya akan mengganti kalimat "... manusia memodelkannya secara probabilistik karena lebih mudah untuk memperkirakan apa yang terjadi dengan cara itu ..." dengan "... manusia memodelkannya secara probabilistik karena terlalu sulit untuk memasukkan detail kecil, yang sebagian besar waktu tidak masalah, ... ". Selain itu, Anda mengambil pendekatan "praktis" untuk pertanyaan yang lebih filosofis / konseptual. Teori chaos hanyalah masalah "dalam praktik" karena kita tidak memiliki representasi angka yang semena-mena. Masalah lain dengan hukum deterministik adalah mereka sering bergantung pada hal-hal yang tidak dapat kita ukur.

— probabilityislogic

1

Terima kasih cyan Saya belum melihat artikel itu, tetapi saya telah melihat beberapa orang lain tentang Persi dan saya mengenalnya dengan baik sebagai mantan asisten profesor yang mengajari saya teori probabilitas dan rangkaian waktu ketika kami berdua berusia akhir dua puluhan dan tiga puluhan sebelumnya dari 1974-1978 . Persi juga menyuruh saya dan Michael Cohen (ketika Michael Cohen dan saya sama-sama mahasiswa pascasarjana) mencukur dadu di atas kain ratusan atau ribuan kali untuk mengkonfirmasi teorinya tentang apa bias untuk jenis pencukuran itu.

— Michael R. Chernick

1

Seperti eksperimen lain yang baik, dia tidak memberi tahu kami bahwa mereka dicukur dan tidak terlalu besar perbedaannya untuk membuatnya terlihat oleh mata. tentu saja jika Anda ingin menipu perusahaan perjudian dengan dadu yang dicukur, Anda tidak bisa mencukur terlalu banyak untuk membuatnya terlihat jelas, tetapi tidak sedikit sehingga Anda akan butuh selamanya untuk mendapatkan kemenangan yang bagus dan menghindari kehancuran para penjudi. Tentu saja kami memiliki kecurigaan tentang percobaan karena tidak masuk akal untuk mencoba mengkonfirmasi bahwa masing-masing pihak muncul sangat dekat dengan 1/6 waktu itu.

— Michael R. Chernick

Juga melakukan pengalaman untuk menunjukkan bahwa Anda dapat bias koin yang adil dalam mendukung kepala jauh dari mampu mendapatkan kepala setiap kali. Ahli statistik digunakan oleh komisi lotre untuk menguji mesin mereka untuk memastikan bahwa mereka adil.

— Michael R. Chernick

4

$2^{-N}$ $2^N$

$N$ $a_n \sim b_n$ $\lim_{n\to\infty}\frac{a_n}{b_n}=1$

(\binom{N}{N f}) \sim \sqrt{\frac{1}{2 π N f (1 - f)}} \exp (- N H (f))

${N\choose Nf}\sim\sqrt{\frac{1}{2\pi Nf(1-f)}}\exp\left(-NH(f)\right)$

$H(f)=f\log\left(f\right)+(1-f)\log\left(1-f\right)$ $H(f)$ $\frac{1}{2}$

H (f) \approx - \log (2) + 2 (f - \frac{1}{2})^{2}

$H(f)\approx-\log\left(2\right)+2(f-\frac{1}{2})^2$

Jadi kami juga punya:

(\binom{N}{N f}) \sim 2^{N} \sqrt{\frac{1}{2 π N f (1 - f)}} \exp (- \frac{2}{N} (N f - \frac{N}{2})^{2})

${N\choose Nf}\sim 2^N\sqrt{\frac{1}{2\pi Nf(1-f)}}\exp\left(-\frac{2}{N}(Nf-\frac{N}{2})^2\right)$

$f$

— probabilityislogic
sumber

1

Terima kasih. Saya kira OP tidak membaca terlalu banyak untuk menghubungkan kalimat tebal dengan CLT. Tetapi bisakah saya memastikan bahwa saya memahami ini dengan benar? Apakah Anda mengatakan bahwa untuk N besar jumlah kombinasi N hal yang diambil Nf pada suatu waktu kira-kira sama dengan kepadatan normal dengan varians parameter Nf (1-F) dan parameter rata-rata N / 2? Juga ini hanya properti matematika asimptotik tanpa koneksi ke probabilitas? Itu sama menakjubkannya dengan melihat versi De Moivre - LaPlace dari teorema limit pusat dalam aksi menggunakan alat quincunx!

— Michael R. Chernick

Terima kasih, sangat membantu untuk memikirkan distribusi normal secara non-probabilistik. Namun, saya tidak mengerti 1) bagaimana batas pertama itu muncul dan 2) apa gunanya Anda melakukan ekspansi seri Taylor.

— Andy McKenzie

1

a_{n} \sim b_{n}

$a_n \sim b_n$

a_{n} / b_{n} \to 1

$a_n / b_n \to 1$

Hasil edit terlihat lebih baik. Namun, tetap harus ada istilah yang hilang dalam persamaan tampilan pertama. :)

— kardinal

\log (N)

$\log(N)$

0

Kutipan dari buku Pinker dan gagasan tentang dunia deterministik sepenuhnya mengabaikan Mekanika Kuantum dan Prinsip Ketidakpastian Heisenberg. Bayangkan menempatkan sejumlah kecil sesuatu yang radioaktif di dekat detektor dan mengatur jumlah dan jarak sehingga akan ada kemungkinan 50% untuk mendeteksi peluruhan selama interval waktu yang telah ditentukan. Sekarang sambungkan detektor ke relay yang akan melakukan sesuatu yang sangat signifikan jika kerusakan terdeteksi dan mengoperasikan perangkat sekali dan hanya sekali.

Anda sekarang telah menciptakan situasi di mana masa depan secara inheren tidak dapat diprediksi. (Contoh ini diambil dari satu yang dijelaskan oleh siapa yang mengajar fisika tahun kedua atau tahun pertama di MIT pada pertengahan 1960-an.)

— Emil Friedman
sumber