Apakah


23

Dalam statistik kami melakukan regresi linier, yang paling awal dari mereka. Secara umum, kita tahu bahwa semakin tinggi R2 semakin baik, tetapi apakah pernah ada skenario di mana tinggi R2akan menjadi model yang tidak berguna?


8
Jawabannya di stats.stackexchange.com/questions/13314 mungkin memberi Anda beberapa ide.
Whuber

2
Ada satu situasi yang dibahas di sini , dengan sebuah contoh. Sebagai contoh, jika Anda mundur hasil coin1 pada coin2 dalam contoh di sana, Anda akan mendapatkan lebih dari 85%, tetapi hubungan yang tampaknya sepenuhnya palsu. R2
Glen_b -Reinstate Monica

2
bukan model. Oleh karena itu Anda harus mengatakan "... R 2 yang tinggiakan berasal dari model yang tidak berguna" atau sesuatu yang serupa daripada "... R 2 yang tinggiakan menjadi model yang tidak berguna". R2R2R2
Richard Hardy


Jawaban:


43

Iya nih. Kriteria untuk mengevaluasi model statistik tergantung pada masalah tertentu di tangan dan tidak beberapa fungsi mekanis dari atau signifikansi statistik (meskipun mereka peduli). Pertanyaan yang relevan adalah, "apakah model membantu Anda memahami data?"R2

Regresi tanpa arti dengan R 2 tinggiR2

  1. Cara paling sederhana untuk mendapatkan tinggi adalah dengan melakukan beberapa tindakan yang setara dengan melakukan regresi sepatu kanan di sepatu kiri. Katakan ukuran sepatu kanan Anda, dan saya bisa memprediksi ukuran sepatu kiri Anda dengan sangat akurat. Besar R 2 ! Apa model statistik yang hebat! Kecuali itu artinya buang air diddly. Anda bisa mendapatkan R 2 yang bagus dengan meletakkan variabel yang sama di sisi kiri dan kanan regresi, tetapi regresi R 2 yang besar ini hampir pasti tidak akan berguna.R2R2R2R2

  2. Ada kasus-kasus lain di mana memasukkan variabel di sisi kanan secara konseptual adalah hal yang salah untuk dilakukan (bahkan jika memunculkan ). Katakanlah Anda mencoba memperkirakan apakah beberapa kelompok minoritas didiskriminasi dan kecil kemungkinannya mendapatkan pekerjaan. Anda tidak boleh mengendalikan apakah perusahaan membalas panggilan setelah lamaran kerja karena lebih kecil kemungkinannya menanggapi lamaran pekerjaan minoritas mungkin menjadi saluran melalui mana diskriminasi terjadi! Menambahkan kontrol yang salah dapat membuat regresi Anda menjadi tidak berarti.R2

  3. Anda selalu dapat meningkatkan dengan menambahkan lebih banyak regressor! Saya dapat terus menambahkan regressor ke sisi kanan sampai saya mendapatkan R 2 apa pun yang saya suka. Untuk memprediksi penghasilan tenaga kerja, saya bisa menambahkan kontrol pendidikan, kontrol usia, efek tetap seperempat, efek tetap kode pos, efek tetap pekerjaan, efek tetap perusahaan, efek tetap keluarga, efek permanen hewan peliharaan, panjang rambut dll ... di beberapa titik kontrol berhenti masuk akal tetapi R 2 terus naik. Menambahkan segala sesuatu sebagai regresi dikenal sebagai regresi "kitchen sink". Anda bisa mendapatkan R 2 tinggi tetapi mungkin secara berlebihan menyesuaikan data: model Anda memprediksi dengan sempurna sampel yang digunakan untuk memperkirakan model (memiliki R tinggiR2R2R2R2 ) tetapi model yang diperkirakan gagal dengan buruk pada data baru.R2

  4. Gagasan yang sama dapat muncul dalam pemasangan kurva polinomial. Berikan saya data acak, dan saya mungkin bisa mendapatkan dengan memasang polinomial 200 derajat. Namun pada data baru, polinomial yang diperkirakan akan gagal berfungsi karena overfitting. Sekali lagi, R 2 tinggi untuk model estimasi tetapi model estimasi tidak berguna.R2R2

  5. Point (3-4) sebabnya kami telah disesuaikan , yang menyediakan beberapa hukuman untuk menambahkan lebih banyak regressors, tetapi disesuaikan R 2 dapat biasanya masih bisa dijus oleh overfitting data. Ini juga memiliki fitur luar biasa tidak masuk akal yang bisa menjadi negatif.R2R2

Saya juga bisa memberikan contoh di mana rendah baik-baik saja (misalnya memperkirakan beta dalam model penentuan harga aset) tetapi posting ini sudah cukup lama. Ringkasnya, pertanyaan keseluruhannya haruslah seperti, "mengetahui apa yang saya ketahui tentang masalah dan tentang statistik, apakah model ini membantu saya memahami / menjelaskan data?" R 2 dapat menjadi alat untuk membantu menjawab pertanyaan ini, tetapi tidak sesederhana model dengan R 2 yang lebih tinggi selalu lebih baik.R2R2R2


+1 untuk banyak poin bagus. Saya mencoba mencari tahu apa yang harus saya katakan tentang nada ....
rolando2

2
R2

2
R2

7

"Tinggi adalah lebih baik" adalah aturan praktis yang buruk untuk R-square.

Don Morrison menulis beberapa artikel terkenal beberapa tahun yang lalu yang menunjukkan bahwa R-square mendekati nol masih bisa ditindaklanjuti dan menguntungkan, tergantung pada industrinya. Misalnya, dalam pemasaran langsung yang memperkirakan respons terhadap pengiriman berlangganan majalah ke 10 juta rumah tangga, R-kuadrat dalam digit tunggal rendah dapat menghasilkan kampanye yang menguntungkan (berdasarkan ROI) jika pengiriman didasarkan pada 2 atau 3 desil respons teratas. kemungkinan.

Sosiolog lain (yang namanya luput dari saya) melakukan segmentasi R-kuadrat berdasarkan tipe data yang mencatat bahwa penelitian survei awal, R-kuadrat dalam kisaran 10-20% adalah norma, sedangkan untuk data bisnis, R-kuadrat dalam kisaran 40-60% itu yang diharapkan. Mereka kemudian berkomentar bahwa R-square 80-90% atau lebih besar kemungkinan melanggar asumsi regresi mendasar. Namun, penulis ini tidak memiliki pengalaman dengan bauran pemasaran, data deret waktu atau model yang berisi set lengkap fitur "kausal" (misalnya, 4 "Ps" klasik dari harga, promosi, tempat dan produk) yang dapat dan akan menghasilkan R- kotak mendekati 100%.

Yang mengatakan, bahkan masuk akal, pembandingan aturan praktis seperti ini tidak terlalu membantu ketika berhadapan dengan buta huruf secara teknis yang pertanyaan pertama tentang model prediksi akan selalu, "Apa R-square?"


7

Jawaban lain menawarkan penjelasan teoretis yang bagus tentang banyak cara nilai-nilai R-squared dapat diperbaiki / dipalsukan / menyesatkan / dll. Berikut ini adalah demonstrasi langsung yang selalu menempel pada saya, diberi kode r:

y <- rnorm(10)
x <- sapply(rep(10,8),rnorm)
summary(lm(y~x))

Ini dapat memberikan nilai R-squared> 0,90. Tambahkan cukup banyak regressor dan bahkan nilai acak dapat "memprediksi" nilai acak.


1
Menarik: kontras set.seed(1)dan set.seed(2).
PatrickT
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.