Kebingungan terkait normalisasi data

Saya mencoba mempelajari model regresi linier. Namun, saya memiliki beberapa kebingungan terkait dengan normalisasi data. Saya telah menormalkan fitur / prediktor menjadi nol mean dan varian unit. Apakah saya perlu melakukan hal yang sama untuk target. Jika demikian mengapa?

regression multiple-regression normalization

— pengguna34790
sumber

Mengapa Anda menormalkan fitur / prediksi?

— Peter Flom

BTW saya pikir 'standardisasi' adalah istilah yang lebih baik untuk itu.

— Scortchi

Jawaban:

Normalisasi target dalam regresi linier tidak masalah. Dalam regresi linier, kecocokan Anda akan berbentuk Ketika Anda prediktor terpusat, suku konstanta akan selalu menjadi rata-rata . Jadi jika Anda memusatkan sebelum menjalankan regresi, Anda hanya akan mendapatkan , tetapi semua koefisien Anda lainnya akan tetap tidak berubah.

{\hat{y}}_{i} = a_{0} + a \cdot x_{i} .

$\hat{y}_i = a_0 + a \cdot x_i.$

x_{i}

$x_i$

a_{0}

$a_0$

y_{i}

$y_i$

y_{i}

$y_i$

a_{0} = 0

$a_0 = 0$

(Yang dikatakan, menormalkan prediktor --- seperti yang sedang Anda lakukan --- adalah ide yang baik.)

— Stefan Taruhan
sumber

Mengapa menormalisasi prediksi merupakan ide yang bagus?

— Scortchi

a_{0}

$a_0$

@Scortchi Normalisasi prediktor tidak perlu, tetapi dapat membuat menafsirkan koefisien dari regresi lebih mudah: Setelah normalisasi, koefisien besar sesuai dengan prediktor penting. Juga, tanpa normalisasi, koefisien istilah interaksi dapat sangat menyesatkan. Karena itu, normalisasi tidak akan memengaruhi prediksi yang Anda dapatkan dari model Anda, jadi normalisasi hanya penting jika Anda bermaksud menafsirkan koefisien dalam regresi.

— Stefan Taruhan

@ user34790 Matematika dikerjakan di pmean.com/10/10/LeastSquares.html

— Stefan Wager

Saya pikir secara teoritis itu tidak masalah, tetapi secara numerik itu penting. Lihatlah jawaban ini.

https://stats.stackexchange.com/a/111997/57240

— Abhinav
sumber