Pertanyaan yang diberi tag «expectation-maximization»

Apakah ada alternatif cepat untuk algoritma EM untuk model pembelajaran dengan variabel laten (terutama pLSA)? Saya baik-baik saja dengan mengorbankan presisi demi kecepatan.

13 machine-learning  optimization  expectation-maximization  lsa 

Katakanlah saya memiliki populasi 50 juta hal unik, dan saya mengambil 10 juta sampel (dengan penggantian) ... Grafik pertama yang saya lampirkan menunjukkan berapa kali saya mencicipi "benda" yang sama, yang relatif jarang seperti populasi lebih besar dari sampel saya. Namun jika populasi saya hanya 10 juta hal, dan saya …

13 r  sampling  expectation-maximization 

Saya mencoba memisahkan dua kelompok nilai dari satu set data. Saya dapat berasumsi bahwa salah satu populasi terdistribusi secara normal dan setidaknya setengah dari ukuran sampel. Nilai yang kedua sama-sama lebih rendah atau lebih tinggi dari nilai dari yang pertama (distribusi tidak diketahui). Yang saya coba lakukan adalah menemukan batas …

13 dataset  outliers  expectation-maximization 

Saya memiliki beberapa pertanyaan konseptual sederhana yang ingin saya klarifikasi mengenai MLE (Estimasi Kemungkinan Maksimum), dan tautan apa yang dimilikinya, jika ada, ke EM (Ekspektasi Maksimalisasi). Seperti yang saya pahami, jika seseorang berkata "Kami menggunakan MLE", apakah itu secara otomatis berarti bahwa mereka memiliki model eksplisit dari data PDF mereka? …

12 estimation  maximum-likelihood  expectation-maximization 

Asumsikan saya memiliki satu set pengamatan univariat independen dan terdistribusi secara identik dan dua hipotesis tentang bagaimana dihasilkan:xxxxxxx xH0H0H_0 : diambil dari satu distribusi Gaussian dengan mean dan varian yang tidak diketahui.xxx xHSEBUAHHAH_A : diambil dari campuran dua Gaussians dengan mean, varian dan koefisien pencampuran yang tidak diketahui.xxx Jika saya …

11 hypothesis-testing  normal-distribution  expectation-maximization 

Apa manfaat dari memberikan nilai awal tertentu untuk probabilitas transisi dalam Model Markov Tersembunyi? Akhirnya sistem akan mempelajarinya, jadi apa gunanya memberikan nilai selain yang acak? Apakah algoritma yang mendasari membuat perbedaan seperti Baum-Welch? Jika saya mengetahui probabilitas transisi di awal dengan sangat akurat, dan tujuan utama saya adalah untuk …

11 machine-learning  expectation-maximization  hidden-markov-model 

Secara matematis, sering terlihat bahwa ekspresi dan algoritme untuk Ekspektasi Maksimalisasi (EM) sering lebih sederhana untuk model campuran, namun tampaknya hampir semua (jika bukan semuanya) yang dapat diselesaikan dengan EM juga dapat diselesaikan dengan MLE (oleh, katakanlah, metode Newton-Raphson, untuk ekspresi yang tidak tertutup). Namun, dalam literatur, tampaknya banyak yang …

11 mixed-model  maximum-likelihood  expectation-maximization 

Model regresi Poisson nol meningkat didefinisikan untuk sampel oleh dan selanjutnya mengasumsikan bahwa parameter dan memenuhiY i = { 0 dengan probabilitas p i + ( 1 - p i ) e - λ i k dengan probabilitas ( 1 - p i ) e - λ i λ k …

10 generalized-linear-model  maximum-likelihood  poisson-distribution  expectation-maximization  latent-variable 

Adakah yang bisa menjelaskan bagaimana tersembunyinya model Markov terkait dengan maksimalisasi harapan? Saya telah melalui banyak tautan tetapi tidak dapat menghasilkan tampilan yang jelas. Terima kasih!

10 markov-process  expectation-maximization  hidden-markov-model 

Saya mencoba menerapkan algoritma EM untuk model analisis faktor berikut; Wj= μ + B aj+ ejuntukj = 1 , … , nWj=μ+Baj+ejforj=1,…,nW_j = \mu+B a_j+e_j \quad\text{for}\quad j=1,\ldots,n di mana adalah vektor acak p-dimensional, adalah vektor q-dimensi dari variabel laten dan adalah matriks parameter pxq.a j BWjWjW_jSebuahjaja_jBBB Sebagai hasil dari asumsi …

10 factor-analysis  expectation-maximization 

Dalam pertanyaan populer ini , jawaban terangkat tinggi membuat MLE dan Baum Welch terpisah dalam fitting HMM. Untuk masalah pelatihan, kita dapat menggunakan 3 algoritme berikut: MLE (estimasi kemungkinan maksimum), pelatihan Viterbi (JANGAN bingung dengan decoding Viterbi), Baum Welch = algoritma maju-mundur TETAPI di Wikipedia , katanya Algoritma Baum-Welch menggunakan …

9 hidden-markov-model  expectation-maximization 

Pertanyaannya didasarkan pada makalah berjudul: Rekonstruksi gambar dalam tomografi optik difus menggunakan model transport-difusi radiatif digabungkan Tautan unduhan Penulis menerapkan EM algoritma dengan sparsity regularisasi vektor yang tidak diketahui untuk memperkirakan pixel dari suatu gambar. Model ini diberikan oleh μl1l1l_1μμ\mu y=Aμ+e(1)(1)y=Aμ+ey=A\mu + e \tag{1} Estimasi diberikan dalam Persamaan (8) sebagai …

9 self-study  bayesian  maximum-likelihood  expectation-maximization  moving-average 

Saat ini saya sedang belajar model Bayesian hierarkis menggunakan JAGS dari R, dan juga pymc menggunakan Python ( "Metode Bayesian untuk Peretas" ). Saya bisa mendapatkan intuisi dari posting ini : "Anda akan berakhir dengan tumpukan angka yang terlihat" seolah-olah "Anda entah bagaimana berhasil mengambil sampel independen dari distribusi rumit …

9 bayesian  mcmc  expectation-maximization 

Saya sedang mempelajari model Gaussian Mixture dan muncul sendiri pertanyaan ini. Misalkan data yang mendasari dihasilkan dari campuran distribusi Gaussian dan masing-masing memiliki vektor rata-rata μ k ∈ R p , di mana 1 ≤ k ≤ K dan masing-masing memiliki co-varian yang sama matriks Σ dan berasumsi ini Σ …

9 self-study  expectation-maximization  gaussian-mixture  consistency 

Saya memiliki model campuran yang saya ingin menemukan penduga kemungkinan maksimum dari diberikan satu set data dan satu set data yang diamati sebagian . Saya telah mengimplementasikan langkah-E (menghitung ekspektasi dari diberikan dan parameter saat ini ), dan langkah-M, untuk meminimalkan kemungkinan log negatif yang diberikan pada diharapkan .xxxzzzzzzxxxθkθk\theta^kzzz Seperti …

9 maximum-likelihood  mixture  expectation-maximization