Pertanyaan yang diberi tag «maximum-likelihood»

Ada beberapa metode untuk estimasi parameter di luar sana. MLE, UMVUE, MoM, decision-theoretic, dan lain-lain semua sepertinya memiliki kasus yang cukup logis mengapa mereka berguna untuk estimasi parameter. Apakah ada satu metode yang lebih baik daripada yang lain, atau apakah itu hanya masalah bagaimana kita mendefinisikan apa penaksir "pas terbaik" …

12 estimation  mathematical-statistics  maximum-likelihood  method-of-moments  umvue 

Adakah yang bisa menjelaskan kondisi keteraturan untuk distribusi uji Likelihood Ratio asimptotik? Di mana-mana saya melihat, tertulis 'Di bawah kondisi keteraturan' atau 'di bawah keteraturan probabilistik'. Apa saja kondisinya? Bahwa derivatif log-likelihood pertama dan kedua ada dan Matriks informasi bukan nol? Atau sesuatu yang lain sama sekali?

12 maximum-likelihood  likelihood-ratio  asymptotics 

Saya ingin memahami uji pasti fisher dengan lebih baik, jadi saya menyusun contoh mainan berikut ini, di mana f dan m berhubungan dengan pria dan wanita, dan n dan y berhubungan dengan "konsumsi soda" seperti ini: > soda_gender f m n 0 5 y 5 0 Jelas, ini adalah penyederhanaan …

12 fishers-exact  hypergeometric  clustering  supervised-learning  modeling  econometrics  r  regression  residuals  heteroscedasticity  independence  distributions  self-study  matlab  libsvm  self-study  conditional-probability  conditional-expectation  hypothesis-testing  self-study  multiple-comparisons  mode  statistical-significance  chi-squared  multiple-comparisons  maximum-likelihood  poisson-process  optimization  uncertainty  genetic-algorithms  bayesian  model-selection  overfitting  maximum-likelihood  optimization  approximation  r  prediction  model-evaluation  r  machine-learning  survival  neural-networks  cox-model  machine-learning  bayesian  bayesian-network  hierarchical-bayesian  pooling 

Dalam teorema Bayesian, , dan dari buku yang saya baca, disebut sebagai kemungkinan , tapi saya menganggap itu hanya probabilitas bersyarat dari diberikan , kan? p(x|y)p ( y| x)= p ( x | y) p ( y)p ( x )p(y|x)=p(x|y)p(y)p(x)p(y|x) = \frac{p(x|y)p(y)}{p(x)}p ( x | y)p(x|y)p(x|y)yxxxyyy The maksimum estimasi kemungkinan …

12 bayesian  maximum-likelihood 

Apakah ada aturan praktis atau bahkan cara apa pun untuk mengetahui seberapa besar sampel dalam rangka memperkirakan model dengan sejumlah parameter tertentu? Jadi, misalnya, jika saya ingin memperkirakan regresi kuadrat-terkecil dengan 5 parameter, seberapa besar seharusnya sampel itu? Apakah penting teknik estimasi apa yang Anda gunakan (mis. Kemungkinan maksimum, kuadrat …

12 sample-size  estimation  least-squares  maximum-likelihood 

Saya mengerti bahwa diberikan satu set pengamatan independen yang Maximum Likelihood Estimator (atau, sama, MAP dengan datar / seragam sebelumnya) yang mengidentifikasi parameter yang menghasilkan distribusi Model p_ {Model} \ kiri (\, \ cdot \,; \ mathbf {θ} \ kanan) yang paling cocok dengan pengamatan itu adalahmmmO={o(1),...,o(m)}O={o(1),...,o(m)}\mathbb{O}=\{\mathbf{o}^{(1)}, . . . …

12 maximum-likelihood  deep-learning  cross-entropy 

Saya membaca PRML dan saya tidak mengerti gambarnya. Bisakah Anda memberikan beberapa petunjuk untuk memahami gambar dan mengapa MLE varians dalam distribusi Gaussian bias? rumus 1.55: rumus 1.56 σ 2 M L E =1μMLE=1N∑n=1NxnμMLE=1N∑n=1Nxn \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n σ2MLE=1N∑n=1N(xn−μMLE)2σMLE2=1N∑n=1N(xn−μMLE)2 \sigma_{MLE}^2=\frac{1}{N}\sum_{n=1}^{N}(x_n-\mu_{MLE})^2

12 machine-learning  self-study  maximum-likelihood 

Apakah mungkin untuk menerapkan prosedur MLE biasa pada distribusi segitiga? - Saya mencoba tetapi saya tampaknya diblokir pada satu langkah atau yang lain dalam matematika dengan cara distribusi didefinisikan. Saya mencoba menggunakan fakta bahwa saya tahu jumlah sampel di atas dan di bawah c (tanpa mengetahui c): 2 angka ini …

12 distributions  mathematical-statistics  maximum-likelihood  triangular-distribution 

Sementara saya mempelajari Estimasi Kemungkinan Maksimum, untuk melakukan inferensi pada Estimasi Kemungkinan Maksimum, kita perlu mengetahui variansnya. Untuk mengetahui perbedaannya, saya perlu mengetahui Cramer's Rao Lower Bound, yang terlihat seperti Hessian Matrix dengan Second Deriviation pada kelengkungan. Saya agak bingung untuk mendefinisikan hubungan antara matriks kovarians dan matriks hessian. Berharap …

12 machine-learning  mathematical-statistics  maximum-likelihood  data-mining 

Saya memiliki fungsi kemungkinan untuk kemungkinan data saya memberikan beberapa parameter model , yang ingin saya perkirakan. Dengan asumsi prior prior pada parameter, kemungkinan proporsional dengan probabilitas posterior. Saya menggunakan metode MCMC untuk sampel probabilitas ini.L (d| θ)L(d|θ)\mathcal{L}(d | \theta)dddθ ∈ RNθ∈RN\theta \in \mathbf{R}^N Melihat rantai konvergen yang dihasilkan, saya …

11 bayesian  maximum-likelihood  optimization  inference  mcmc 

Baru-baru ini saya menjadi sadar akan metode 'bebas-kemungkinan' yang dibicarakan dalam literatur. Namun saya tidak jelas apa artinya inferensi atau metode optimasi menjadi bebas kemungkinan . Dalam pembelajaran mesin, tujuannya biasanya untuk memaksimalkan kemungkinan beberapa parameter agar sesuai dengan suatu fungsi misalnya bobot pada jaringan saraf. Jadi apa sebenarnya filosofi …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

Judul mengatakan itu semua. Saya mengerti bahwa Least-Squares dan Maximum-Likelihood akan memberikan hasil yang sama untuk koefisien regresi jika kesalahan model terdistribusi secara normal. Tetapi, apa yang terjadi jika kesalahan tidak terdistribusi secara normal? Mengapa kedua metode ini tidak lagi setara?

11 regression  normal-distribution  maximum-likelihood  least-squares  error 

Saya sedang membaca makalah teori Doug Bates pada paket lme4 R untuk lebih memahami seluk beluk model campuran, dan menemukan hasil yang menarik yang ingin saya pahami lebih baik, tentang menggunakan kemungkinan maksimum terbatas (REML) untuk memperkirakan varian. . Dalam bagian 3.3 pada kriteria REML, ia menyatakan bahwa penggunaan REML …

11 maximum-likelihood  mixed-model  unbiased-estimator  hierarchical-bayesian  reml 

Saya membaca buku The Identification Problem In Econometrics karya Franklin M. Fisher, dan saya bingung dengan bagian mana dia menunjukkan identifikasi dengan memvisualisasikan fungsi kemungkinan. Masalahnya dapat disederhanakan sebagai: Untuk regresi , di mana , dan adalah parameter. Misalkan memiliki koefisien yang sama dengan kesatuan. Maka fungsi kemungkinan dalam ruang …

11 mathematical-statistics  maximum-likelihood  geometry 

Apakah ada interpretasi silang validasi Bayesian, ML atau MDL? Bisakah saya mengartikan validasi silang sebagai melakukan pembaruan yang benar pada sebelumnya dibuat khusus?

11 bayesian  cross-validation  maximum-likelihood