Pertanyaan yang diberi tag «bayesian»

Saya tidak mengerti mengapa mengubah jaringan Bayesian menjadi grafik faktor baik untuk inferensi Bayesian? Pertanyaan saya adalah: Apa manfaat menggunakan grafik faktor dalam penalaran Bayesian? Apa yang akan terjadi jika kita tidak menggunakannya? Setiap contoh nyata akan dihargai!

10 bayesian  graphical-model  bayesian-network 

Pertimbangkan Bayesian posterior . Secara asimptotik, maksimum terjadi pada estimasi MLE , yang hanya memaksimalkan kemungkinan .θ∣Xθ∣X\theta\mid Xθ^θ^\hat \thetaargminθfθ(X)argminθfθ(X)\operatorname{argmin}_\theta\, f_\theta(X) Semua konsep ini — prior Bayesian, memaksimalkan kemungkinan — terdengar super berprinsip dan sama sekali tidak sewenang-wenang. Tidak ada catatan yang terlihat. Namun MLE meminimalkan divergensi KL antara distribusi nyata …

9 bayesian  maximum-likelihood  kullback-leibler 

Saya sedang mengerjakan masalah inferensi dimensi tinggi (sekitar 2000 parameter model) yang kami mampu melakukan estimasi MAP dengan kuat dengan menemukan maksimum global log-posterior menggunakan kombinasi optimasi berbasis gradien dan algoritma genetika. Saya sangat ingin dapat membuat beberapa estimasi ketidakpastian pada parameter model selain menemukan estimasi MAP. Kami dapat menghitung …

9 bayesian  uncertainty  high-dimensional  variational-bayes 

Definisi paling sederhana dari statistik yang cukup dalam perspektif frequentist diberikan di sini di Wikipedia . Namun, baru-baru ini saya menemukan buku Bayesian, dengan definisi . Disebutkan dalam tautan bahwa keduanya setara, tetapi saya tidak mengerti caranya. Juga, di halaman yang sama, di bagian «Jenis Kecukupan Lain» dinyatakan bahwa kedua …

9 bayesian  mathematical-statistics  sufficient-statistics 

Ini mungkin sedikit pertanyaan filosofis, tapi di sini kita pergi: Dalam teori keputusan, risiko penaksir Bayes untuk didefinisikan sehubungan dengan distribusi sebelumnya pada .θ∈qπqθ^( x )θ^(x)\hat\theta(x)θ ∈ Θθ∈Θ\theta\in\Thetaππ\piΘΘ\Theta Sekarang, di satu sisi, agar benar telah menghasilkan data (yaitu "ada"), harus merupakan varian yang mungkin di bawah , misalnya memiliki probabilitas …

9 bayesian  prior  decision-theory  point-estimation 

Saya baru-baru ini menyaksikan pembicaraan oleh Eric J. Ma dan memeriksa entri blog - nya , di mana ia mengutip Radford Neal, bahwa model Bayesian tidak mengenakan pakaian yang berlebihan (tetapi mereka bisa mengenakan pakaian yang sesuai ) dan ketika menggunakannya, kita tidak perlu set tes untuk memvalidasi mereka (untuk …

9 machine-learning  bayesian  cross-validation  deep-learning 

Casella dan Berger menyatakan properti invarian penaksir ML sebagai berikut: Namun, bagi saya tampaknya mereka mendefinisikan "kemungkinan" dari dalam cara yang sepenuhnya ad hoc dan tidak masuk akal:ηη\eta Jika saya menerapkan aturan dasar teori probabilitas pada kasus sederhana apakah , saya malah mendapatkan yang berikut: Sekarang menerapkan teorema Bayes, dan …

9 self-study  bayesian  maximum-likelihood  frequentist  invariance 

Pertimbangkan plot di bawah ini di mana saya mensimulasikan data sebagai berikut. Kami melihat hasil biner yang kemungkinan benar menjadi 1 ditunjukkan dengan garis hitam. Hubungan fungsional antara kovariat x dan p ( y o b s = 1 | x ) adalah polinomial urutan ke-3 dengan tautan logistik (sehingga …

9 regression  logistic  bayesian  confidence-interval  credible-interval 

Saya memiliki dataset dengan tiga variabel, di mana semua variabel kuantitatif. Sebut saja yyy , x1x1x_1 dan x2x2x_2 . Saya menyesuaikan model regresi dalam perspektif Bayesian via MCMC denganrjags Saya melakukan analisis eksplorasi dan sebar y×x2y×x2y\times x_2 menunjukkan bahwa istilah kuadrat harus digunakan. Lalu saya memasang dua model (1) y=β0+β1∗x1+β2∗x2y=β0+β1∗x1+β2∗x2y=\beta_0+\beta_1*x_1+\beta_2*x_2 …

9 bayesian  feature-selection  model-selection  model  credible-interval 

Contoh: Saya memiliki kalimat dalam deskripsi pekerjaan: "Java senior engineer in UK". Saya ingin menggunakan model pembelajaran yang mendalam untuk memperkirakannya sebagai 2 kategori: English dan IT jobs. Jika saya menggunakan model klasifikasi tradisional, hanya dapat memprediksi 1 label dengan softmaxfungsi di lapisan terakhir. Dengan demikian, saya dapat menggunakan 2 …

9 machine-learning  deep-learning  natural-language  tensorflow  sampling  distance  non-independent  application  regression  machine-learning  logistic  mixed-model  control-group  crossover  r  multivariate-analysis  ecology  procrustes-analysis  vegan  regression  hypothesis-testing  interpretation  chi-squared  bootstrap  r  bioinformatics  bayesian  exponential  beta-distribution  bernoulli-distribution  conjugate-prior  distributions  bayesian  prior  beta-distribution  covariance  naive-bayes  smoothing  laplace-smoothing  distributions  data-visualization  regression  probit  penalized  estimation  unbiased-estimator  fisher-information  unbalanced-classes  bayesian  model-selection  aic  multiple-regression  cross-validation  regression-coefficients  nonlinear-regression  standardization  naive-bayes  trend  machine-learning  clustering  unsupervised-learning  wilcoxon-mann-whitney  z-score  econometrics  generalized-moments  method-of-moments  machine-learning  conv-neural-network  image-processing  ocr  machine-learning  neural-networks  conv-neural-network  tensorflow  r  logistic  scoring-rules  probability  self-study  pdf  cdf  classification  svm  resampling  forecasting  rms  volatility-forecasting  diebold-mariano  neural-networks  prediction-interval  uncertainty 

Pertanyaan: Satu kesalahpahaman umum dari nilai-p adalah bahwa mereka mewakili probabilitas hipotesis nol menjadi benar. Saya tahu itu tidak benar dan saya tahu bahwa nilai-p hanya mewakili probabilitas menemukan sampel yang ekstrim seperti ini, mengingat bahwa hipotesis nol itu benar. Namun, secara intuitif, seseorang harus dapat memperoleh yang pertama dari …

9 hypothesis-testing  bayesian  p-value  frequentist 

Saya membaca pracetak makalah ini , dan saya mengalami kesulitan mengikuti derivasi mereka dari persamaan untuk Regresi Proses Gaussian. Mereka menggunakan pengaturan & notasi Rasmussen & Williams . Dengan demikian, aditif, mean-nol, stasioner, dan noise terdistribusi normal dengan varian σ2noiseσnoise2\sigma^2_{noise} diasumsikan: y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) GP sebelum dengan nol rata-rata …

9 regression  bayesian  gaussian-process 

Ahli statistik Bayesian berpendapat bahwa "Statistik Bayesian dapat memperkirakan parameter yang sangat sulit untuk diperkirakan melalui metode yang sering". Apakah kutipan berikut yang diambil dari dokumentasi SAS ini mengatakan hal yang sama? Ini memberikan kesimpulan yang tergantung pada data dan tepat, tanpa bergantung pada perkiraan asimptotik. Inferensi sampel kecil berlangsung …

9 bayesian  inference  sas  frequentist 

Saya mencoba untuk menerapkan model Campuran Gaussian dengan inferensi variasional stokastik, berikut ini kertas . Ini adalah pgm dari Campuran Gaussian. Menurut makalah itu, algoritma penuh inferensi variatif stokastik adalah: Dan saya masih sangat bingung dengan metode untuk menskalakannya menjadi GMM. Pertama, saya pikir parameter variasional lokal hanya dan yang …

9 machine-learning  bayesian  clustering  gaussian-mixture  variational-bayes 

Saya membaca kertas pendeteksian changepoint online Bayesian oleh Adams dan MacKay ( tautan ). Penulis mulai dengan menulis distribusi prediksi marjinal: manaP(xt+1|x1:t)=∑rtP(xt+1|rt,x(r)t)P(rt|x1:t)(1)P(xt+1|x1:t)=∑rtP(xt+1|rt,xt(r))P(rt|x1:t)(1) P(x_{t+1} | \textbf{x}_{1:t}) = \sum_{r_t} P(x_{t+1} | r_t, \textbf{x}_t^{(r)}) P(r_t | \textbf{x}_{1:t}) \qquad \qquad (1) txtxtx_t adalah pengamatan pada waktu ;ttt tx1:tx1:t\textbf{x}_{1:t} menunjukkan set pengamatan sampai waktu ;ttt …

9 time-series  bayesian  inference  change-point