Regresi punggungan - interpretasi Bayesian

Saya telah mendengar bahwa regresi ridge dapat diturunkan sebagai rata-rata distribusi posterior, jika prior dipilih secara memadai. Apakah intuisi bahwa kendala seperti yang ditetapkan pada koefisien regresi oleh sebelumnya (misalnya distribusi normal standar sekitar 0) adalah identik / ganti hukuman yang ditetapkan pada ukuran kuadrat dari koefisien? Apakah sebelumnya harus menjadi Gaussian untuk kesetaraan ini berlaku?

$\beta=0$$|\beta|$$P$

Dua poin:

Distribusi posterior dalam kasus Bayesian adalah distribusi. Perkiraan regresi ridge hanyalah sebuah vektor$\hat{\beta}$dan bukan distribusi. Jadi mereka tidak sepenuhnya setara.

Memang benar bahwa dalam kasus normal normal multivariat dan normal normal multivariat, posterior adalah normal multivariat dengan rata-rata yang merupakan estimasi regresi ridge untuk parameter ridge yang dipilih dengan tepat.

Buktinya tergantung pada bentuk tertentu dari prior dan likelihood dan tidak berfungsi untuk fungsi prior atau likelihood yang lebih umum.