Motivasi dari algoritma Maksimalisasi Ekspektasi

20

Dalam pendekatan algoritma EM kami menggunakan ketidaksetaraan Jensen untuk sampai pada

\log p (x | θ) \geq \int \log p (z, x | θ) p (z | x, θ^{(k)}) d z - \int \log p (z | x, θ) p (z | x, θ^{(k)}) d z

$\log p(x|\theta) \geq \int \log p(z,x|\theta) p(z|x,\theta^{(k)}) dz - \int \log p(z|x,\theta) p(z|x,\theta^{(k)})dz$

dan definisikan oleh $\theta^{(k+1)}$

θ^{(k + 1)} = \arg max_{θ} \int \log p (z, x | θ) p (z | x, θ^{(k)}) d z

$\theta^{(k+1)}=\arg \max_{\theta}\int \log p(z,x|\theta) p(z|x,\theta^{(k)}) dz$

Semua yang saya baca EM hanya menjatuhkannya tetapi saya selalu merasa tidak nyaman dengan tidak memiliki penjelasan mengapa algoritma EM muncul secara alami. Saya mengerti bahwa $\log$ likelihood biasanya digunakan untuk menangani penambahan, bukan perkalian, tetapi tampilan $\log$ dalam definisi $\theta^{(k+1)}$ terasa tidak termotivasi untuk saya. Mengapa seseorang harus mempertimbangkan $\log$ dan bukan fungsi monoton lainnya? Untuk berbagai alasan saya menduga bahwa "makna" atau "motivasi" di balik maksimalisasi harapan memiliki semacam penjelasan dalam hal teori informasi dan statistik yang memadai. Jika ada penjelasan seperti itu yang akan jauh lebih memuaskan daripada hanya algoritma abstrak.

mixture expectation-maximization

— pengguna782220
sumber

3

Apa algoritma maksimalisasi harapan? , Nature Biotechnology 26 : 897–899 (2008) memiliki gambaran yang bagus yang menggambarkan bagaimana algoritma bekerja.

— chl

@ chl: Saya telah melihat artikel itu. Poin yang saya tanyakan adalah pemberitahuan bahwa tidak ada tempat yang menjelaskan mengapa pendekatan non-log tidak berfungsi

— user782220

10

Algoritma EM memiliki interpretasi yang berbeda dan dapat muncul dalam berbagai bentuk dalam aplikasi yang berbeda.

Semuanya dimulai dengan fungsi kemungkinan , atau ekuivalen, fungsi log-likelihood ingin kami maksimalkan. (Kami umumnya menggunakan logaritma karena menyederhanakan perhitungan: Ini sepenuhnya monoton, cekung, dan .) Dalam dunia ideal, nilai hanya bergantung pada parameter model , jadi kita dapat mencari melalui ruang dan menemukan yang memaksimalkan . $p(x \vert \theta)$ $\log p(x \vert \theta)$ $\log(ab) = \log a + \log b$ $p$ $\theta$ $\theta$ $p$

Namun, dalam banyak aplikasi dunia nyata yang menarik hal-hal lebih rumit, karena tidak semua variabel diamati. Ya, kita mungkin secara langsung mengamati , tetapi beberapa variabel lain tidak teramati. Karena variabel yang hilang , kita berada dalam situasi ayam-dan-telur: Tanpa kita tidak dapat memperkirakan parameter dan tanpa kita tidak dapat menyimpulkan berapa nilai mungkin. $x$ $z$ $z$ $z$ $\theta$ $\theta$ $z$

Di sinilah algoritma EM berperan. Kita mulai dengan tebakan awal parameter model dan mendapatkan nilai yang diharapkan dari variabel yang hilang (yaitu, langkah E). Ketika kita memiliki nilai-nilai , kita dapat memaksimalkan kemungkinan wrt parameter (yaitu, langkah M, sesuai dengan persamaan dalam pernyataan masalah). Dengan kita dapat memperoleh nilai-nilai baru yang diharapkan dari (langkah E lainnya), seterusnya dan seterusnya. Dengan kata lain, dalam setiap langkah kita mengasumsikan salah satu dari keduanya, dan $\theta$ $z$ $z$ $\theta$ $\arg \max$ $\theta$ $z$ $z$ $\theta$ , dikenal. Kami mengulangi proses berulang ini sampai kemungkinan tidak dapat ditingkatkan lagi.

Singkatnya, ini adalah algoritma EM. Sudah diketahui bahwa kemungkinannya tidak akan pernah berkurang selama proses EM berulang ini. Tetapi perlu diingat bahwa algoritma EM tidak menjamin global optimal. Artinya, mungkin berakhir dengan optimal lokal dari fungsi kemungkinan.

Penampilan dalam persamaan tidak bisa dihindari, karena di sini fungsi yang ingin Anda maksimalkan ditulis sebagai kemungkinan log. $\log$ $\theta^{(k+1)}$

— Weiwei
sumber

Saya tidak melihat bagaimana ini menjawab pertanyaan.

— broncoAbierto

9

Kemungkinan vs kemungkinan log

Seperti yang telah dikatakan, diperkenalkan dalam kemungkinan maksimum hanya karena umumnya lebih mudah untuk mengoptimalkan jumlah daripada produk. Alasan kami tidak mempertimbangkan fungsi monoton lainnya adalah bahwa logaritma adalah fungsi unik dengan sifat mengubah produk menjadi jumlah. $\log$

Cara lain untuk memotivasi logaritma adalah sebagai berikut: Alih-alih memaksimalkan probabilitas data dalam model kami, kami dapat mencoba untuk meminimalkan Kullback-Leibler divergensi antara distribusi data, , dan distribusi model, , $p_\text{data}(x)$ $p(x \mid \theta)$

D_{KL} [p_{data} (x) ∣∣ p (x ∣ θ)] = \int p_{data} (x) \log \frac{p_{data} (x)}{p (x ∣ θ)} d x = c o n s t - \int p_{data} (x) \log p (x ∣ θ) d x .

$D_\text{KL}[p_\text{data}(x) \mid\mid p(x \mid \theta)] = \int p_\text{data}(x) \log \frac{p_\text{data}(x)}{p(x \mid \theta)} \, dx = const - \int p_\text{data}(x)\log p(x \mid \theta) \, dx.$

Istilah pertama di sisi kanan konstan dalam parameter. Jika kami memiliki sampel dari distribusi data (titik data kami), kami dapat memperkirakan istilah kedua dengan kemungkinan log rata-rata data, $N$

\int p_{data} (x) \log p (x ∣ θ) d x \approx \frac{1}{N} \sum_{n} \log p (x_{n} ∣ θ) .

$\int p_\text{data}(x)\log p(x \mid \theta) \, dx \approx \frac{1}{N} \sum_n \log p(x_n \mid \theta).$

Pandangan alternatif EM

Saya tidak yakin ini akan menjadi jenis penjelasan yang Anda cari, tetapi saya menemukan pandangan berikut tentang maksimalisasi harapan jauh lebih mencerahkan daripada motivasinya melalui ketidaksetaraan Jensen (Anda dapat menemukan deskripsi terperinci dalam Neal & Hinton (1998) atau dalam buku PRML Chris Bishop, Bab 9.3).

Tidak sulit untuk menunjukkannya

\log p (x ∣ θ) = \int q (z ∣ x) \log \frac{p (x, z ∣ θ)}{q (z ∣ x)} d z + D_{KL} [q (z ∣ x) ∣∣ p (z ∣ x, θ)]

$\log p(x \mid \theta) = \int q(z \mid x) \log \frac{p(x, z \mid \theta)}{q(z \mid x)} \, dz + D_\text{KL}[q(z \mid x) \mid\mid p(z \mid x, \theta)]$

untuk . Jika kita menyebut istilah pertama di sisi kanan , ini menyiratkan hal itu $q(z \mid x)$ $F(q, \theta)$

F (q, θ) = \int q (z ∣ x) \log \frac{p (x, z ∣ θ)}{q (z ∣ x)} d z = \log p (x ∣ θ) - D_{KL} [q (z ∣ x) ∣∣ p (z ∣ x, θ)] .

$F(q, \theta) = \int q(z \mid x) \log \frac{p(x, z \mid \theta)}{q(z \mid x)} \, dz = \log p(x \mid \theta) - D_\text{KL}[q(z \mid x) \mid\mid p(z \mid x, \theta)].$

Karena divergensi KL selalu positif , adalah batas bawah pada log-kemungkinan untuk setiap tetap . Sekarang, EM dapat dilihat sebagai secara maksimal memaksimalkan sehubungan dengan dan . Secara khusus, dengan menetapkan di E-langkah, kita meminimalkan perbedaan KL di sisi kanan dan dengan demikian memaksimalkan . $F(q, \theta)$ $q$ $F$ $q$ $\theta$ $q(z \mid x) = p(z \mid x, \theta)$ $F$

— Lucas
sumber

Terima kasih untuk kirimannya! Meskipun dokumen yang diberikan tidak mengatakan logaritma adalah fungsi unik yang mengubah produk menjadi jumlah. Dikatakan logaritma adalah satu-satunya fungsi yang memenuhi ketiga properti yang terdaftar secara bersamaan .

— Weiwei

@ Weiwei: Benar, tetapi kondisi pertama terutama mengharuskan fungsi tersebut tidak dapat dibalik. Tentu saja, f (x) = 0 juga menyiratkan f (x + y) = f (x) f (y), tetapi ini merupakan kasus yang tidak menarik. Kondisi ketiga meminta turunan pada 1 adalah 1, yang hanya berlaku untuk logaritma ke basis . Jatuhkan batasan ini dan Anda mendapatkan logaritma ke basis yang berbeda, tetapi masih logaritma.

e

$e$

— Lucas

4

Makalah yang saya temukan mengklarifikasi sehubungan dengan maksimalisasi-harapan adalah Bayesian K-Means sebagai Algoritma "Maximisasi-Ekspektasi" (pdf) oleh Welling dan Kurihara.

Misalkan kita memiliki model probabilistik dengan pengamatan , variabel acak tersembunyi, dan total parameter . Kami diberi dataset dan dipaksa (dengan kekuatan yang lebih tinggi) untuk membuat . $p(x,z,\theta)$ $x$ $z$ $\theta$ $D$ $p(z,\theta|D)$

1. Pengambilan sampel Gibbs

Kami dapat memperkirakan dengan sampling. Gibbs sampling memberi dengan bergantian: $p(z,\theta|D)$ $p(z,\theta|D)$

θ \sim p (θ | z, D) z \sim p (z | θ, D)

$\theta \sim p(\theta|z,D) \\ z \sim p(z|\theta,D)$

2. Teluk Variasional

Sebagai gantinya, kita dapat mencoba membuat distribusi dan dan meminimalkan perbedaan dengan distribusi kita setelah . Perbedaan antara distribusi memiliki nama mewah yang nyaman, KL-divergence. Untuk meminimalkan kami memperbarui: $q(\theta)$ $q(z)$ $p(\theta,z|D)$ $KL[q(\theta)q(z)||p(\theta,z|D)]$

q (θ) \propto \exp (E [\log p (θ, z, D)]_{q (z)}) q (z) \propto \exp (E [\log p (θ, z, D)]_{q (θ)})

$q(\theta) \propto \exp (E [\log p(\theta,z,D) ]_{q(z)} ) \\ q(z) \propto \exp (E [\log p(\theta,z,D) ]_{q(\theta)} )$

3. Ekspektasi-Maksimalisasi

Untuk datang dengan distribusi probabilitas penuh untuk dan mungkin dianggap ekstrim. Mengapa kita tidak mempertimbangkan estimasi titik untuk salah satu dari ini dan menjaga yang lain tetap bagus dan bernuansa. Dalam EM, parameter ditetapkan sebagai yang tidak layak untuk distribusi penuh, dan ditetapkan ke nilai MAP (Maksimum A Posteriori), . $z$ $\theta$ $\theta$ $\theta^*$

θ^{*} = \underset{θ}{argmax} E [\log p (θ, z, D)]_{q (z)} q (z) = p (z | θ^{*}, D)

$\theta^* = \underset{\theta}{\operatorname{argmax}} E [\log p(\theta,z,D) ]_{q(z)} \\ q(z) = p(z|\theta^*,D)$

Di sini sebenarnya akan menjadi notasi yang lebih baik: operator argmax dapat mengembalikan beberapa nilai. Tapi jangan sampai nitpick. Dibandingkan dengan variational Bayes Anda melihat bahwa mengoreksi oleh tidak mengubah hasilnya, sehingga tidak perlu lagi. $\theta^* \in \operatorname{argmax}$ $\log$ $\exp$

4. Maksimalisasi-Harapan

Tidak ada alasan untuk memperlakukan sebagai anak manja. Kita juga bisa menggunakan estimasi titik untuk variabel tersembunyi kami dan memberikan parameter kemewahan distribusi penuh. $z$ $z^*$ $\theta$

z^{*} = \underset{z}{argmax} E [\log p (θ, z, D)]_{q (θ)} q (θ) = p (θ | z^{*}, D)

$z^* = \underset{z}{\operatorname{argmax}} E [\log p(\theta,z,D) ]_{q(\theta)} \\ q(\theta) = p(\theta|z^*,D)$

Jika variabel tersembunyi kami adalah variabel indikator, kami tiba-tiba memiliki metode yang murah secara komputasi untuk melakukan inferensi pada jumlah cluster. Dengan kata lain: pemilihan model (atau deteksi relevansi otomatis atau bayangkan nama mewah lain). $z$

5. Mode bersyarat iterasi

Tentu saja, anak poster inferensi perkiraan adalah dengan menggunakan estimasi titik untuk parameter serta pengamatan . $\theta$ $z$

θ^{*} = \underset{θ}{argmax} p (θ, z^{*}, D) z^{*} = \underset{z}{argmax} p (θ^{*}, z, D)

$\theta^* = \underset{\theta}{\operatorname{argmax}} p(\theta,z^*,D) \\ z^* = \underset{z}{\operatorname{argmax}} p(\theta^*,z,D) \\$

Untuk melihat bagaimana Maximization-Expectation dimainkan, saya sangat merekomendasikan artikel ini. Namun menurut saya, kekuatan dari artikel ini bukanlah aplikasi untuk alternatif berarti, tetapi penjelasan yang jelas dan ringkas tentang perkiraan ini. $k$

— Anne van Rossum
sumber

(+1) ini adalah ringkasan yang indah dari semua metode.

— kedarps

4

Ada teknik optimasi yang berguna yang mendasari algoritma EM. Namun, biasanya dinyatakan dalam bahasa teori probabilitas sehingga sulit untuk melihat bahwa pada intinya adalah metode yang tidak ada hubungannya dengan probabilitas dan harapan.

Mempertimbangkan masalah memaksimalkan (atau ekuivalen ) terhadap . Jika Anda menuliskan ekspresi untuk dan menetapkannya sama dengan nol, Anda akan sering berakhir dengan persamaan transendental untuk dipecahkan. Ini bisa jahat.

g (x) = \sum_{i} \exp (f_{i} (x))

$g(x)=\sum_i\exp(f_i(x))$

\log g (x)

$\log g(x)$

x

$x$

g^{'} (x)

$g'(x)$

Sekarang anggaplah bahwa bermain dengan baik bersama dalam arti bahwa kombinasi linear dari mereka memberi Anda sesuatu yang mudah untuk dioptimalkan. Misalnya, jika semua adalah kuadrat dalam maka kombinasi linear dari juga akan kuadratik, dan karenanya mudah dioptimalkan. $f_i$ $f_i(x)$ $x$ $f_i(x)$

Mengingat anggapan ini, itu akan menjadi dingin jika, untuk mengoptimalkan entah bagaimana kita bisa mengocok masa lalu sehingga bisa memenuhi dan menghilangkan mereka. Kemudian bisa bermain bersama. Tetapi kita tidak bisa melakukan itu. $\log g(x)=\log \sum_i\exp(f_i(x))$ $\log$ $\sum$ $\exp$ $f_i$

Mari kita lakukan hal terbaik berikutnya. Kami akan membuat fungsi lain yang mirip dengan . Dan kami akan membuatnya dari kombinasi linear dari . $h$ $g$ $f_i$

Katakanlah adalah tebakan untuk nilai optimal. Kami ingin meningkatkan ini. Mari kita cari fungsi lain yang cocok dengan dan turunannya di , yaitu dan . Jika Anda memplot grafik di lingkungan kecil itu akan terlihat mirip dengan . $x_0$ $h$ $g$ $x_0$ $g(x_0)=h(x_0)$ $g'(x_0)=h'(x_0)$ $h$ $x_0$ $g$

Anda dapat menunjukkan bahwa Kami menginginkan sesuatu yang cocok dengan ini di . Ada pilihan alami:

g^{'} (x) = \sum_{i} f_{i}^{'} (x) \exp (f_{i} (x)) .

$g'(x)=\sum_i f_i'(x)\exp(f_i(x)).$

x_{0}

$x_0$

h (x) = constant + \sum_{i} f_{i} (x) \exp (f_{i} (x_{0})) .

$h(x)=\mbox{constant}+\sum_i f_i(x)\exp(f_i(x_0)).$ Anda dapat melihat mereka cocok di

. Kita mendapatkan

Karena

adalah konstanta, kami memiliki kombinasi linear sederhana dari

yang turunannya cocok dengan

. Kita hanya harus memilih konstanta dalam

untuk membuat

x = x_{0}

$x=x_0$

h^{'} (x) = \sum_{i} f_{i}^{'} (x) \exp (f_{i} (x_{0})) .

$h'(x)=\sum_i f_i'(x)\exp(f_i(x_0)).$

x_{0}

$x_0$

f_{i}

$f_i$

g

$g$

h

$h$

.

g (x_{0}) = h (x_{0})

$g(x_0)=h(x_0)$

Jadi dimulai dengan , kita membentuk dan mengoptimalkannya. Karena mirip dengan di lingkungan kami berharap optimum mirip dengan optimum g. Setelah Anda memiliki perkiraan baru, buat berikutnya dan ulangi lagi. $x_0$ $h(x)$ $g(x)$ $x_0$ $h$ $h$

Saya harap ini memotivasi pilihan . Ini persis prosedur yang terjadi di EM. $h$

$h(x)\le g(x)$ $h(x)$ $x$ $g$ $g(x_0)$ $h$ $g$ $h$

$\exp$

— Dan Piponi
sumber

3

Seperti yang Anda katakan, saya tidak akan membahas detail teknis. Ada beberapa tutorial yang sangat bagus. Salah satu favorit saya adalah catatan kuliah Andrew Ng . Lihatlah juga referensi di sini .

$K$
$p (x) = \sum_{i = 1}^{K} π_{i} N (x | μ_{i}, Σ_{i})$ $p(x) = \sum_{i=1}^{K}\pi_{i} \mathcal{N}(x|\mu_{i}, \Sigma_{i})$ $\pi_{i}$ $x$ $\mu_{i}$ $\Sigma_{i}$ $\pi_{i}$ mewakili kemungkinan komponen ith dapat menjelaskan sampel itu), dan mengambil jumlah tertimbang. Sebagai contoh nyata, bayangkan Anda ingin mengelompokkan dokumen teks. Idenya adalah untuk mengasumsikan bahwa setiap dokumen milik topik (sains, olahraga, ...) yang tidak Anda ketahui sebelumnya !. Topik yang mungkin adalah variabel tersembunyi. Kemudian Anda diberi banyak dokumen, dan dengan menghitung n-gram atau fitur apa pun yang Anda ekstrak, Anda ingin kemudian menemukan cluster tersebut dan melihat ke cluster mana masing-masing dokumen itu milik. EM adalah prosedur yang menyerang masalah ini secara bertahap: langkah ekspektasi berupaya meningkatkan penugasan sampel yang telah dicapai sejauh ini. Langkah maksimalisasi Anda meningkatkan parameter campuran, dengan kata lain, bentuk cluster.
Intinya tidak menggunakan fungsi monotonik tetapi fungsi cembung. Dan alasannya adalah ketidaksamaan Jensen yang memastikan bahwa estimasi algoritma EM akan meningkat pada setiap langkah.

— jpmuc
sumber