Pertanyaan yang diberi tag «bayesian»

(Saya seorang pemula di statistik. Saya seorang ahli matematika dan seorang programmer dan saya mencoba untuk membangun sesuatu seperti filter spam Bayesian yang naif.) Saya perhatikan di banyak tempat bahwa orang cenderung menjabarkan penyebut dalam persamaan dari Teorema Bayes. Jadi alih-alih ini: P( A | B ) ⋅ P( B …

23 bayesian 

Saya telah mencoba untuk memahami ide konjugasi prior dalam statistik Bayesian untuk sementara waktu tetapi saya tidak mengerti. Adakah yang bisa menjelaskan ide dalam istilah yang paling sederhana, mungkin menggunakan "Gaussian prior" sebagai contoh?

23 bayesian  conditional-probability  conjugate-prior 

Andrew Gelman menulis artikel yang luas tentang mengapa pengujian Bayesian AB tidak memerlukan beberapa koreksi hipotesis: Mengapa Kita (Biasanya) Tidak Perlu Khawatir Tentang Multiple Comparisons , 2012. Saya tidak begitu mengerti: mengapa metode Bayesian tidak membutuhkan banyak koreksi pengujian? A ~ Distribution1 + Common Distribution B ~ Distribution2 + Common …

22 hypothesis-testing  bayesian  multiple-comparisons 

Saya melihat-lihat literatur tentang regularisasi, dan sering melihat paragraf yang menghubungkan L2 regulatization dengan Gaussian sebelumnya, dan L1 dengan Laplace berpusat pada nol. Saya tahu bagaimana rupa prior ini, tetapi saya tidak mengerti, bagaimana ini diterjemahkan menjadi, misalnya, bobot dalam model linier. Di L1, jika saya mengerti dengan benar, kami …

22 regression  bayesian  prior  regularization  laplace-distribution 

Saya tertarik untuk memperkirakan kepadatan dari variabel acak kontinu XXX . Salah satu cara melakukan ini yang saya pelajari adalah penggunaan Kernel Density Estimation. Tapi sekarang saya tertarik pada pendekatan Bayesian yang mengikuti garis berikut. Saya awalnya percaya bahwa XXX mengikuti distribusi FFF . Aku mengambil nnn pembacaan . Apakah …

22 bayesian  pdf  nonparametric-bayes  dirichlet-process 

Saya saat ini sedang membaca "Bayesian Reasoning and Machine Learning" oleh David Barber dan ini adalah buku yang ditulis dengan sangat baik dan menarik untuk mempelajari dasar-dasarnya. Jadi pertanyaan untuk seseorang yang sudah melakukan ini. Apa set buku berikutnya yang harus saya lalui setelah saya memiliki kemampuan yang wajar dengan …

22 machine-learning  bayesian  references  graphical-model 

Ketika mencoba untuk memilih di antara berbagai model atau sejumlah fitur untuk disertakan, katakan prediksi saya dapat memikirkan dua pendekatan. Membagi data menjadi pelatihan dan set tes. Lebih baik lagi, gunakan bootstrap atau k-fold cross-validation. Latihlah set latihan setiap kali dan hitung kesalahan dari set tes. Plot test error vs. …

22 bayesian  model-selection  cross-validation  feature-selection 

Apa perbedaan antara model generatif dan diskriminatif (diskriminan) (dalam konteks pembelajaran dan inferensi Bayesian)? dan apa yang berkaitan dengan prediksi, teori keputusan atau pembelajaran tanpa pengawasan?

22 bayesian  predictive-models  unsupervised-learning 

Kita tahu bahwa dalam hal distribusi sebelumnya yang tepat, P(θ∣X)=P(X∣θ)P(θ)P(X)P(θ∣X)=P(X∣θ)P(θ)P(X)P(\theta \mid X) = \dfrac{P(X \mid \theta)P(\theta)}{P(X)} ∝P(X∣θ)P(θ)∝P(X∣θ)P(θ) \propto P(X \mid \theta)P(\theta) . Pembenaran biasa untuk langkah ini adalah bahwa distribusi marginal , , konstan terhadap dan dengan demikian dapat diabaikan ketika menurunkan distribusi posterior.XXXP(X)P(X)P(X)θθ\theta Namun, dalam kasus prior yang tidak …

22 distributions  bayesian  prior  posterior 

Saya telah mencoba untuk mengembangkan pemahaman berbasis intuisi teorema Bayes dalam hal sebelumnya , posterior , kemungkinan dan probabilitas marjinal . Untuk itu saya menggunakan persamaan berikut: P( B | A ) = P( A | B ) P( B )P( A )P(B|SEBUAH)=P(SEBUAH|B)P(B)P(SEBUAH)P(B|A) = \frac{P(A|B)P(B)}{P(A)} manaSEBUAHSEBUAHAmewakili hipotesis atau keyakinan danBBBmewakili …

22 bayesian  likelihood  intuition 

Beberapa sumber mengatakan fungsi kemungkinan bukan probabilitas kondisional, beberapa mengatakan itu. Ini sangat membingungkan saya. Menurut sebagian besar sumber yang saya lihat, kemungkinan distribusi dengan parameter θθ\theta , harus merupakan produk dari fungsi massa probabilitas yang diberikansampel:x innnxsayaxsayax_i L(θ)=L(x1,x2,...,xn;θ)=∏i=1np(xi;θ)L(θ)=L(x1,x2,...,xn;θ)=∏i=1np(xi;θ)L(\theta) = L(x_1,x_2,...,x_n;\theta) = \prod_{i=1}^n p(x_i;\theta) Misalnya dalam Regresi Logistik, kami menggunakan …

21 probability  bayesian  conditional-probability  likelihood  frequentist 

Saya mengalami kesulitan memahami apa proses Bootstrap Bayesian, dan bagaimana hal itu akan berbeda dari bootstrap normal Anda. Dan jika seseorang dapat menawarkan tinjauan intuitif / konseptual dan perbandingan keduanya, itu akan bagus. Mari kita ambil contoh. Katakanlah kita memiliki X dataset yang [1,2,5,7,3]. Jika kita sampel dengan penggantian beberapa …

21 bayesian  sampling  bootstrap 

Pembukaan Ini posting yang panjang. Jika Anda membaca ulang ini, harap perhatikan bahwa saya telah merevisi bagian pertanyaan, meskipun materi latar belakangnya tetap sama. Selain itu, saya percaya bahwa saya telah menemukan solusi untuk masalah ini. Solusi itu muncul di bagian bawah pos. Terima kasih kepada CliffAB untuk menunjukkan bahwa …

21 machine-learning  bayesian  sampling  roc  auc 

Saya tahu bahwa prior tidak harus tepat dan bahwa fungsi kemungkinan tidak berintegrasi dengan 1. Tetapi apakah posterior perlu distribusi yang tepat? Apa implikasinya jika tidak?

21 distributions  bayesian  posterior 

Jika sebelumnya dan kemungkinan sangat berbeda satu sama lain, maka kadang-kadang terjadi situasi di mana posterior mirip dengan keduanya. Lihat misalnya gambar ini, yang menggunakan distribusi normal. Meskipun secara matematis ini benar, tampaknya itu tidak sesuai dengan intuisi saya - jika data tidak sesuai dengan keyakinan atau data yang saya …

21 bayesian  prior  posterior  likelihood