Menguji perbedaan antara dua (disesuaikan) r ^ 2

Katakanlah saya memiliki dua model regresi, satu dengan tiga variabel dan satu dengan empat. Masing-masing mengeluarkan r ^ 2 yang disesuaikan, yang bisa saya bandingkan langsung.

Jelas, model dengan r ^ 2 yang disesuaikan lebih tinggi lebih cocok, tetapi apakah ada cara untuk menguji perbedaan antara kedua r ^ 2 yang disesuaikan dan mendapatkan nilai p?

Saya tahu Anda bisa melakukan tes Chow untuk menguji perbedaan antara lereng, tapi ini varians, jadi saya tidak berpikir itu yang saya cari.

Sunting: Satu model tidak hanya berisi subset variabel dari model lain, atau saya mungkin akan menggunakan regresi bertahap

Dalam model 1, saya memiliki empat variabel: W, X, Y, dan Z.

Dalam model 2, saya memiliki tiga variabel: W, X, dan (Y + Z) / 2.

Idenya adalah bahwa jika Y dan Z secara konseptual serupa, model dapat membuat prediksi yang lebih baik dengan mengelompokkan dua variabel ini sebelum memasukkannya ke dalam model.

Seperti yang dikatakan whuber, ini sebenarnya adalah kasus model bersarang, dan karenanya seseorang dapat menerapkan uji rasio kemungkinan . Karena masih belum jelas model apa yang Anda tentukan, saya hanya akan menulis ulang dalam contoh ini;

Jadi model 1 dapat:

$Y = a_1 + B_{11}(X) + B_{12}(W) + B_{13}(Z) + e_1$

Dan model 2 dapat (saya mengabaikan pembagian dengan 2, tetapi tindakan ini tidak memiliki konsekuensi untuk pertanyaan Anda):

$Y = a_2 + B_{21}(X) + B_{22}(W+Z) + e_2$

Yang dapat ditulis ulang sebagai:

$Y = a_2 + B_{21}(X) + B_{22}(W) + B_{22}(Z)+ e_2$

Dan karenanya model 2 adalah kasus spesifik dari model 1 di mana dan sama. Seseorang dapat menggunakan uji kemungkinan-rasio antara dua model ini untuk menetapkan nilai-p pada fit model 1 dibandingkan dengan model 2. Ada alasan bagus dalam praktik untuk melakukan ini, terutama jika korelasi antara W dan Z cukup besar ( multikolinearitas ). Seperti yang saya katakan sebelumnya, apakah Anda membaginya dengan dua tidak masalah untuk menguji kecocokan model, meskipun jika lebih mudah untuk menafsirkan maka dengan segala cara menggunakan rata-rata dari dua variabel.$B_{12}$$B_{13}$$\frac{W+Z}{2}$$W+Z$

Statistik kecocokan model (seperti CP Mallow yang telah disebutkan oleh bill_080, dan contoh lainnya adalah AIC dan BIC ), sering digunakan untuk menilai model yang tidak bersarang. Statistik tersebut tidak mengikuti distribusi yang diketahui (seperti halnya log-likelihood, Chi-square ) dan karenanya perbedaan dalam statistik antara model tidak dapat diberi nilai p.

Lihatlah Mallow's Cp:

Mallow's Cp

Ini pertanyaan terkait:

Apakah ada cara untuk mengoptimalkan regresi sesuai dengan kriteria tertentu?

Diberikan pengaturan dalam jawaban Andy W, jika seseorang memperkirakan model

$Y = a_3 + B_{31}(X) + B_{32}(W+Z) + B_{33}(Z) + e_3$

tes yang terkait dengan memberi Anda tes bahwa model 1 berbeda dari model 2. Alasannya adalah bahwa persis (bagian dari tanda) perbedaan antara dan . Jadi, jika perbedaan mereka tidak signifikan, menjaga W dan Z dalam model (model 1) tidak membantu dalam hal varians dijelaskan dibandingkan dengan menggabungkan mereka dalam satu variabel (model 2). Jika signifikan, model 1 lebih baik. $B_{33}$$B_{33}$$B_{12}$$B_{13}$$B_{33}$