Pertanyaan yang diberi tag «maximum-likelihood»

Misalkan kita memiliki model linier yang memenuhi semua asumsi regresi standar (Gauss-Markov). Kami tertarik pada θ = 1 / β 1 .yi=β0+β1xi+ϵiyi=β0+β1xi+ϵiy_i = \beta_0 + \beta_1 x_i + \epsilon_iθ=1/β1θ=1/β1\theta = 1/\beta_1 Pertanyaan 1: Apa asumsi yang diperlukan untuk distribusi θ didefinisikan dengan baik? β 1 ≠ 0 akan menjadi penting …

9 regression  distributions  maximum-likelihood  bootstrap 

Saya perlu membuat kesimpulan tentang parameter positif . Untuk mengakomodir kepositifan, saya memvariasikan ulang p = exp ( q ) . Menggunakan rutin MLE saya menghitung estimasi titik dan se untuk q . Properti invarian dari MLE secara langsung memberi saya estimasi titik untuk p , tapi saya tidak yakin …

9 maximum-likelihood  standard-error  delta-method 

Saya sedang belajar tentang Regresi Logistik. Tapi saya terjebak dalam menghitung intersep ( ) dan koefisien ( ). Saya sudah mencarinya melalui internet, tetapi hanya mendapatkan tutorial menggunakan Microsoft Excel atau fungsi bawaan di R. Saya mendengarnya bisa diselesaikan dengan Kemungkinan Maksimum, tapi saya tidak mengerti bagaimana menggunakannya, karena saya …

9 regression  machine-learning  logistic  maximum-likelihood 

Misalkan kita mengganti fungsi kerugian dari regresi logistik (yang biasanya log-kemungkinan) dengan MSE. Artinya, masih memiliki rasio odds log menjadi fungsi linier dari parameter, tetapi meminimalkan jumlah perbedaan kuadrat antara estimasi probabilitas dan hasil (dikodekan sebagai 0/1): catatanhal1 - hal=β0+β1x1+ . . . +βnxnlog⁡p1−p=β0+β1x1+...+βnxn\log \frac p{1-p} = \beta_0 + \beta_1x_1 …

9 logistic  maximum-likelihood  unbiased-estimator  mse 

Saya berjuang dengan menerapkan penduga kemungkinan maksimum untuk proses Hawkes multivarian (HP). Secara khusus, sementara ekspresi analitik untuk fungsi log-likelihood dari HP univariat dapat ditemukan dengan mudah secara online (mis. Ozaki, 1979), tampaknya ada versi yang berbeda (tidak konsisten atau setara?) Dari fungsi log-likelihood dari HP multivarian. di luar sana. …

9 maximum-likelihood  stochastic-processes  likelihood 

Pertimbangkan respon y dan data matriks X . Misalkan saya membuat model formulir - y ~ g (X, )θθ\theta (g () bisa berupa fungsi X dan )θθ\theta Sekarang, untuk memperkirakan menggunakan metode Maximum Likelihood (ML), saya bisa melanjutkan dengan Conditional ML (dengan asumsi saya tahu bentuk kepadatan bersyarat f (y …

9 estimation  maximum-likelihood  optimization 

Dalam "pembelajaran mesin Kevin Murphy: Perspektif probabilistik", bab 3.2, penulis menunjukkan pembelajaran konsep Bayesian pada contoh yang disebut "permainan angka": Setelah mengamati NNN sampel dari {1,...,100}{1,...,100}\{1,...,100\}, kami ingin memilih hipotesis hhhyang paling menggambarkan aturan yang menghasilkan sampel. Misalnya "bilangan genap" atau "bilangan prima". Estimasi a-posteriori maksimum dan kemungkinan maksimum didefinisikan …

8 self-study  bayesian  maximum-likelihood  convergence 

Pertanyaan ini tampaknya cukup mendasar sehingga saya yakin telah dijawab di suatu tempat, tetapi saya belum menemukannya. Saya mengerti bahwa jika variabel dependen dalam regresi terdistribusi normal, kemungkinan maksimum dan kuadrat terkecil biasa menghasilkan estimasi parameter yang sama. Ketika variabel dependen tidak terdistribusi secara normal, estimasi parameter OLS tidak lagi …

8 regression  maximum-likelihood  least-squares  blue 

Saya telah melihat pembenaran berikut untuk tes Wald dari hipotesis nol H0: θ =θ0H0:θ=θ0H_0: \theta = \theta_0 untuk parameter skalar θθ\theta. Kapanθ^nθ^n\hat{\theta}_n adalah MLE untuk θθ\theta Diperkirakan dari sampel ukuran independen nnn, di bawah hipotesis nol, kita memiliki dalam distribusi sebagai , di mana adalah informasi yang diharapkan untuk pengamatan …

8 hypothesis-testing  maximum-likelihood 

Saya mencoba memahami perbedaan antara Newton-Raphsonteknik dan Fisher scoringteknik dengan menghitung iterasi pertama untuk setiap metode untuk Bernoullisampel. (Saya tahu bahwa dalam hal ini saya dapat secara eksplisit dan segera menghitung tetapi saya ingin melakukannya secara iteratif hanya untuk memahami dan melihat bagaimana setiap metode berkonvergensi).πmleπmle\pi_{mle} Misalkan saya menggambar koin …

8 maximum-likelihood  fisher-information  fisher-scoring 

Saya telah diberi tabel dan , yang sedemikian rupa sehingga jumlah x_i memberi tahu jumlah anak yang dimiliki semua orang .x=(0,1,2,3,4,5,6)x=(0,1,2,3,4,5,6)x=(0,1,2,3,4,5,6)y=(3062,587,284,103,33,4,2)y=(3062,587,284,103,33,4,2)y=(3062,587,284,103,33,4,2)xixix_iyiyiy_i Saya diminta untuk menyesuaikan distribusi Poisson untuk ini. Apa artinya cocok dengan distribusi Poisson untuk ini? Di sini, p.8: http://www.stats.ox.ac.uk/ ~ marchini/teaching/L5/L5.notes.pdf dikatakan bahwa pemasangan Poisson melibatkan penghitungan P(X=x)P(X=x)P(X=x) …

8 self-study  distributions  maximum-likelihood  fitting 

Dalam Model Persamaan Struktural, orang sering menggunakan estimator ML. Dalam kasus di mana variabel tidak normal multivarian, bisakah ML digunakan? Sering kali indikator yang Anda miliki untuk bekerja dengan tidak multivariat normal. Saya tidak yakin bagaimana melanjutkannya.

8 maximum-likelihood  sem  normality-assumption  multivariate-normal 

Saya menemukan bahwa untuk model regresi linier sederhana, baik OLS dan metode kemungkinan maksimum (dengan asumsi distribusi Normal) memberikan output yang sama (nilai parameter). Dari sini, dapatkah kita mengatakan bahwa OLS juga membuat asumsi implisit tentang distribusi Normal atau sebaliknya? Saya tidak tertarik mengapa keduanya menghasilkan nilai yang sama tetapi …

8 regression  normal-distribution  maximum-likelihood  least-squares 

Mengapa GLM memprediksi mean dan bukan mode sinyal? Bukankah ini bertentangan dengan dasar di balik GLM, yaitu kemungkinan maksimum? Persamaan untuk memecahkan parameter model dalam GLM didasarkan pada maksimalisasi kemungkinan seperti yang dijelaskan oleh distribusi probabilitas dari sinyal yang dimodelkan. Distribusi probabilitas ini maksimum untuk mode bukan untuk rata - …

8 generalized-linear-model  maximum-likelihood  mean  mode 

Saya mengerti di mana langkah E terjadi dalam algoritma (seperti yang dijelaskan dalam bagian matematika di bawah). Dalam pikiran saya, kecerdikan kunci dari algoritma adalah penggunaan ketidaksetaraan Jensen untuk membuat batas bawah pada kemungkinan log. Dalam hal itu, mengambil Expectationhanya dilakukan untuk merumuskan kembali kemungkinan log agar sesuai dengan ketidaksetaraan …

8 maximum-likelihood  optimization  expectation-maximization  latent-variable  kullback-leibler