Pertanyaan yang diberi tag «maximum-likelihood»

Kapan lebih baik menggunakan Estimasi Kemungkinan Maksimum alih-alih Kuadrat Terkecil Biasa? Apa kekuatan dan keterbatasan masing-masing? Saya mencoba untuk mengumpulkan pengetahuan praktis tentang di mana harus menggunakan masing-masing dalam situasi umum.

13 regression  maximum-likelihood  least-squares 

Saya telah menulis beberapa kode yang dapat melakukan pemfilteran Kalman (menggunakan sejumlah filter tipe Kalman yang berbeda [Information Filter et al.]) Untuk Linear Gaussian State Space Analysis untuk vektor keadaan n-dimensi. Filter bekerja dengan baik dan saya mendapatkan beberapa output yang bagus. Namun, estimasi parameter melalui estimasi loglikelihood membingungkan saya. …

13 maximum-likelihood  algorithms  kalman-filter  likelihood 

Katakanlah saya memiliki masalah pemilihan model dan saya mencoba menggunakan AIC atau BIC untuk mengevaluasi model. Ini mudah untuk model yang memiliki sejumlah dari parameter bernilai riil.kkk Namun, bagaimana jika salah satu model kami (misalnya, model Mallows ) memiliki permutasi, ditambah beberapa parameter bernilai nyata, bukan hanya parameter bernilai nyata? …

13 modeling  maximum-likelihood  aic  fitting  bic 

Saya memiliki model untuk memprediksi lintasan (x sebagai fungsi waktu) dengan beberapa parameter. Saat ini, saya menghitung root mean square error (RMSE) antara lintasan yang diprediksi dan lintasan yang direkam secara eksperimental. Saat ini, saya meminimalkan perbedaan ini (RMSE) menggunakan simplex (fminsearch in matlab). Meskipun metode ini berfungsi untuk memberikan …

13 maximum-likelihood  curve-fitting 

Pertanyaan ini dimotivasi oleh pertanyaan ini . Saya mencari dua sumber dan inilah yang saya temukan. A. van der Vaart, Statistik Asimptotik: Jarang mungkin untuk menghitung kemungkinan profil secara eksplisit, tetapi evaluasi numeriknya seringkali layak. Kemudian kemungkinan profil dapat berfungsi untuk mengurangi dimensi fungsi kemungkinan. Fungsi kemungkinan profil sering digunakan …

13 estimation  maximum-likelihood  likelihood  asymptotics  profile-likelihood 

Premis: ini mungkin pertanyaan bodoh. Saya hanya tahu pernyataan tentang sifat asimptotik MLE, tetapi saya tidak pernah mempelajari buktinya. Jika saya melakukannya, mungkin saya tidak akan menanyakan pertanyaan-pertanyaan ini, atau saya mungkin saya akan menyadari pertanyaan-pertanyaan ini tidak masuk akal ... jadi tolong mudahkan saya :) Saya sering melihat pernyataan …

13 maximum-likelihood  model  asymptotics 

Saya mencoba memahami regresi logistik Firth (metode penanganan pemisahan logistik sempurna / lengkap atau kuasi-lengkap) sehingga saya dapat menjelaskannya kepada orang lain dalam istilah yang disederhanakan. Adakah yang punya penjelasan bodoh tentang modifikasi estimasi Firth yang dibuat untuk MLE? Saya telah membaca, semampu saya, Firth (1993) dan saya mengerti koreksi …

13 logistic  maximum-likelihood  separation 

Secara umum sepertinya metode saat ini hanya cocok dengan rata-rata sampel yang diamati, atau varians dengan momen teoritis untuk mendapatkan estimasi parameter. Ini sering sama dengan MLE untuk keluarga eksponensial, saya kumpulkan. Namun, sulit untuk menemukan definisi yang jelas tentang metode momen dan diskusi yang jelas tentang mengapa MLE secara …

13 maximum-likelihood  method-of-moments 

Latar Belakang: Saya mencoba mengikuti review Princeton tentang estimasi MLE untuk GLM . Saya memahami dasar-dasar estimasi MLE: likelihood, score, diamati dan diharapkan Fisher informationdan Fisher scoringteknik. Dan saya tahu bagaimana membenarkan regresi linier sederhana dengan estimasi MLE . Pertanyaan: Saya bahkan tidak mengerti baris pertama dari metode ini :( …

12 regression  generalized-linear-model  maximum-likelihood  link-function  irls 

Biarkan menjadi distribusi gabungan dari dua variabel kategori , dengan . Katakanlah sampel diambil dari distribusi ini, tetapi kami hanya diberi jumlah marginal, yaitu untuk : X , Y x , y ∈ { 1 , ... , K } n j = 1 , ... , Kpx,ypx,yp_{x,y}X,YX,YX,Yx,y∈{1,…,K}x,y∈{1,…,K}x,y\in\{1,\ldots,K\}nnnj=1,…,Kj=1,…,Kj=1,\ldots,K Sj=∑i=1nδ(Xi=l),Tj=∑i=1nδ(Yi=j),Sj=∑i=1nδ(Xi=l),Tj=∑i=1nδ(Yi=j), S_j …

12 categorical-data  maximum-likelihood  joint-distribution  marginal  maximum-entropy 

Saya mencoba menghitung log-kemungkinan untuk regresi kuadrat terkecil nonlinear umum untuk fungsi dioptimalkan olehfungsi dalam paket R, menggunakan matriks varians kovarians yang dihasilkan oleh jarak pada pohon filogenetik dengan asumsi gerakan Brown (daripaket). Kode R yang dapat direproduksi berikut cocok dengan model gnls menggunakan x, data y dan pohon acak …

12 r  maximum-likelihood  least-squares  nonlinear-regression  mixed-model 

Saya menggunakan Bayes untuk memecahkan masalah pengelompokan. Setelah melakukan beberapa perhitungan saya berakhir dengan kebutuhan untuk mendapatkan rasio dua probabilitas: P(A)/P(B)P(A)/P(B)P(A)/P(B) untuk dapat memperoleh . Probabilitas ini diperoleh dengan mengintegrasikan dua KDE multivarian 2D berbeda seperti yang dijelaskan dalam jawaban ini :P(H|D)P(H|D)P(H|D) P(A)=∬x,y:f^(x,y)&lt;f^(ra,sa)f^(x,y)dxdyP(A)=∬x,y:f^(x,y)&lt;f^(ra,sa)f^(x,y)dxdyP(A) = \iint_{x, y : \hat{f}(x, y) < …

12 probability  bayesian  maximum-likelihood  kernel-smoothing 

Saya memiliki beberapa pertanyaan konseptual sederhana yang ingin saya klarifikasi mengenai MLE (Estimasi Kemungkinan Maksimum), dan tautan apa yang dimilikinya, jika ada, ke EM (Ekspektasi Maksimalisasi). Seperti yang saya pahami, jika seseorang berkata "Kami menggunakan MLE", apakah itu secara otomatis berarti bahwa mereka memiliki model eksplisit dari data PDF mereka? …

12 estimation  maximum-likelihood  expectation-maximization 

Saya datang dari pertanyaan ini kalau-kalau ada yang ingin mengikuti jejak. Pada dasarnya saya memiliki kumpulan data ΩΩ\Omega terdiri dari objek NNN mana setiap objek memiliki sejumlah nilai terukur yang melekat padanya (dua dalam kasus ini): Ω = o1[ x1, y1] , o2[ x2, y2] , . . . , …

12 probability  maximum-likelihood  kernel-smoothing  numerical-integration 

Jika seseorang berkata "Metode itu menggunakan MLE estimasi titik untuk parameter yang memaksimalkan , oleh karena itu sering, dan lebih lanjut itu bukan Bayesian."P (x | θ)P(x|θ)\mathrm{P}(x|\theta) apakah kamu setuju? Pembaruan di latar belakang : Saya baru-baru ini membaca sebuah makalah yang mengaku sering. Saya tidak setuju dengan klaim mereka, …

12 bayesian  maximum-likelihood  likelihood  frequentist  philosophical