Variabel sering disesuaikan (misalnya standar) sebelum membuat model - kapan ini ide yang baik, dan kapan itu yang buruk?

Dalam keadaan apa yang ingin Anda, atau tidak ingin skala atau standarisasi variabel sebelum pemasangan model? Dan apa keuntungan / kerugian dari penskalaan variabel?

Standardisasi adalah tentang bobot variabel yang berbeda untuk model. Jika Anda melakukan standarisasi "hanya" demi stabilitas numerik, mungkin ada transformasi yang menghasilkan sifat numerik yang sangat mirip tetapi makna fisik berbeda yang mungkin jauh lebih tepat untuk interpretasi. Hal yang sama berlaku untuk pemusatan, yang biasanya merupakan bagian dari standardisasi.

Situasi di mana Anda mungkin ingin melakukan standarisasi:

• variabelnya adalah jumlah fisik yang berbeda
• dan nilai numerik berada pada skala yang sangat berbeda
• dan tidak ada pengetahuan "eksternal" bahwa variabel dengan variasi (numerik) tinggi harus dianggap lebih penting.

Situasi di mana Anda mungkin tidak ingin membakukan:

• jika variabel-variabelnya adalah kuantitas fisik yang sama, dan (kira-kira) besarnya sama, misalnya
  • konsentrasi relatif dari spesies kimia yang berbeda
  • absorbansi pada panjang gelombang yang berbeda
  • Intensitas emisi (kondisi pengukuran yang sama) pada panjang gelombang berbeda
• Anda pasti tidak ingin membakukan variabel yang tidak berubah di antara sampel (saluran dasar) - Anda hanya akan meledakkan derau pengukuran (Anda mungkin ingin mengeluarkannya dari model sebagai gantinya)
• jika Anda memiliki variabel yang berhubungan secara fisik, noise pengukuran Anda mungkin kira-kira sama untuk semua variabel, tetapi intensitas sinyal jauh lebih bervariasi. Yaitu variabel dengan nilai rendah memiliki noise relatif lebih tinggi. Standarisasi akan meledakkan kebisingan. Dengan kata lain, Anda mungkin harus memutuskan apakah Anda ingin kebisingan relatif atau absolut distandarisasi.
• Mungkin ada nilai-nilai bermakna secara fisik yang dapat Anda gunakan untuk menghubungkan nilai terukur Anda, misalnya, alih-alih intensitas yang ditransmisikan, gunakan persen dari intensitas yang ditransmisikan (T transmitansi).

Anda dapat melakukan sesuatu "di antara", dan mentransformasikan variabel atau memilih unit sehingga variabel baru masih memiliki makna fisik tetapi variasi dalam nilai numerik tidak jauh berbeda, misalnya

• jika Anda bekerja dengan tikus, gunakan berat badan g dan panjang dalam cm (kisaran variasi yang diharapkan sekitar 5 untuk keduanya) alih-alih satuan dasar kg dan m (kisaran variasi yang diharapkan 0,005 kg dan 0,05 m - satu urutan besarnya berbeda).
• $A = -log_{10} T$

Mirip untuk pemusatan:

• Mungkin ada (dasar / fisik / kimia / biologis / ...) nilai-nilai dasar yang bermakna tersedia (misalnya kontrol, tirai, dll.)
• Apakah maksudnya sebenarnya bermakna? (Manusia rata-rata memiliki satu ovarium dan satu testis)

Satu hal yang selalu saya tanyakan pada diri saya sebelum standardisasi adalah, "Bagaimana saya akan menafsirkan output?" Jika ada cara untuk menganalisis data tanpa transformasi, ini mungkin lebih baik murni dari sudut pandang interpretasi.

Secara umum saya tidak merekomendasikan penskalaan atau standardisasi kecuali jika benar-benar diperlukan. Keuntungan atau daya tarik dari proses semacam itu adalah bahwa, ketika variabel penjelas memiliki dimensi fisik dan besaran yang sama sekali berbeda dari variabel respons, penskalaan melalui pembagian dengan deviasi standar dapat membantu dalam hal stabilitas numerik, dan memungkinkan seseorang untuk membandingkan efek di beberapa variabel penjelas. Dengan standardisasi yang paling umum, efek variabel adalah jumlah perubahan dalam variabel respon ketika variabel penjelas meningkat satu standar deviasi; itu juga menunjukkan bahwa makna dari pengaruh variabel (jumlah perubahan dalam variabel respon ketika variabel penjelas meningkat satu unit) akan hilang meskipun nilai statistik untuk variabel penjelas tetap tidak berubah. Namun, ketika interaksi dipertimbangkan dalam suatu model, penskalaan bisa sangat bermasalah bahkan untuk pengujian statistik karena suatu komplikasi yang melibatkan penyesuaian penskalaan stokastik dalam menghitung kesalahan standar dari efek interaksi (Pengkhotbah, 2003). Untuk alasan ini, penskalaan dengan standar deviasi (atau standardisasi / normalisasi) umumnya tidak dianjurkan, terutama ketika interaksi terlibat.

Pengkhotbah, KJ, Curran, PJ, dan Bauer, DJ, 2006. Alat komputasi untuk menyelidiki efek interaksi dalam regresi linier berganda, pemodelan multilevel, dan analisis kurva laten. Jurnal Statistik Pendidikan dan Perilaku, 31 (4), 437-448.