Transformasi kepadatan probabilitas yang berbeda karena faktor Jacobian

Dalam Pengenalan Pola Bishop dan Pembelajaran Mesin saya membaca yang berikut, tepat setelah kerapatan probabilitas diperkenalkan:$p(x\in(a,b))=\int_a^bp(x)\textrm{d}x$

Di bawah perubahan variabel nonlinier, kepadatan probabilitas berubah secara berbeda dari fungsi sederhana, karena faktor Jacobian. Sebagai contoh, jika kita mempertimbangkan perubahan variabel , maka fungsi menjadi . Sekarang pertimbangkan kepadatan probabilitas yang sesuai dengan kepadatan sehubungan dengan variabel baru , di mana suf fi ces menunjukkan fakta bahwa dan adalah kepadatan yang berbeda. Pengamatan yang jatuh dalam kisaran akan, untuk nilai-nilai kecil dari , ditransformasikan ke dalam kisaran$x = g(y)$$f(x)$$\tilde{f}(y) = f(g(y))$$p_x(x)$$p_y(y)$$y$$p_x(x)$$p_y(y)$$(x, x + \delta x)$$\delta x$$(y, y + \delta y$ ) di mana , dan karenanya p_y (y) = p_x (x) | \ frac {dx} {dy} | = p_x (g (y)) | g \ prime (y) | .$p_x(x)\delta x \simeq p_y(y)δy$$p_y(y) = p_x(x) |\frac{dx}{dy}| = p_x(g(y)) | g\prime (y) |$

Apa faktor Jacobian dan apa sebenarnya arti semuanya (mungkin secara kualitatif)? Bishop mengatakan, bahwa konsekuensi dari sifat ini adalah bahwa konsep maksimum dari kepadatan probabilitas tergantung pada pilihan variabel. Apa artinya ini?

Bagi saya ini tiba-tiba muncul sedikit (mengingat itu ada di bab pendahuluan). Saya menghargai beberapa petunjuk, terima kasih!

Saya sarankan Anda membaca solusi dari Pertanyaan 1.4 yang memberikan intuisi yang baik.

Singkatnya, jika Anda memiliki fungsi sewenang-wenang dan dua variabel dan yang saling terkait dengan fungsi , maka Anda dapat menemukan maksimum fungsi baik dengan langsung menganalisis : atau fungsi yang ditransformasikan : . Tidak mengherankan, dan akan terkait dengan masing-masing sebagai (di sini saya berasumsi bahwa .x y x = g ( y ) f ( x ) x = a r g m a x x ( f ( x ) ) f ( g ( y ) ) y = a r g m a x y ( f ( g ( y ) ) x $f(x)$$x$$y$$x = g(y)$$f(x)$$\hat{x} = argmax_x(f(x))$$f(g(y))$$\hat{y} = argmax_y(f(g(y))$$\hat{x}$$\hat{y}$∀y:g'(y)≠0$\hat{x} = g(\hat{y})$$\forall{y}: g^\prime(y)\neq0)$

Ini bukan kasus untuk distribusi probabilitas. Jika Anda memiliki distribusi probabilitas dan dua variabel acak yang terkait satu sama lain oleh . Maka tidak ada hubungan langsung antara dan . Ini terjadi karena faktor Jacobian, faktor yang menunjukkan bagaimana volume relatif diubah oleh fungsi seperti .x = g ( y ) x = a r g m a x x ( p x ( x ) ) y = a r g m a x y ( p y ( y ) ) g ( . $p_x(x)$$x=g(y)$$\hat{x} = argmax_x(p_x(x))$$\hat{y}=argmax_y(p_y(y))$$g(.)$