Apakah ada perbedaan antara 'mengendalikan untuk' dan 'mengabaikan' variabel lain dalam regresi berganda?

Koefisien variabel penjelas dalam regresi berganda memberi tahu kita hubungan variabel penjelas dengan variabel terikat. Semua ini, sambil 'mengendalikan' untuk variabel penjelas lainnya.

Bagaimana saya melihatnya sejauh ini:

Sementara masing-masing koefisien sedang dihitung, variabel-variabel lain tidak diperhitungkan, jadi saya menganggap mereka diabaikan.

Jadi apakah saya benar ketika saya berpikir bahwa istilah 'dikontrol' dan 'diabaikan' dapat digunakan secara bergantian?

regression multiple-regression

— Siddharth Gopi
sumber

Saya tidak begitu tertarik dengan pertanyaan ini sampai saya melihat dua orang yang menginspirasi @gung untuk Anda tawarkan.

— DWin

Anda tidak mengetahui percakapan yang kami lakukan di tempat lain yang memotivasi pertanyaan ini, @DWin. Terlalu banyak untuk mencoba menjelaskan ini dalam komentar, jadi saya meminta OP untuk membuatnya menjadi pertanyaan formal. Saya benar-benar berpikir secara eksplisit mengeluarkan perbedaan b / t mengabaikan & mengendalikan variabel lain dalam regresi adalah pertanyaan yang bagus, & saya senang itu dibahas di sini.

— gung - Reinstate Monica

lihat juga diagram pertama di sini

— Glen_b

Apakah data yang digunakan dalam pertanyaan ini tersedia sehingga kami dapat menjalankannya sendiri sebagai sampel yang mendidik.

— Larry

Jawaban:

$Y$ $X_1$ $X_2$ $Y$ $X_1$

$X_1$ $Y$ $X_2$
$Y = β_{0} + β_{1} X_{1} + β_{2} X_{2}$ $Y = \beta_0 + \beta_1X_1 + \beta_2X_2$
$X_1$ $Y$ $X_2$

$Y = β_{0} + β_{1} X_{1}$ $Y = \beta_0 + \beta_1X_1$

$X_1$ $Y$ $\hat\beta_1$ $X_1$ $X_2$

masukkan deskripsi gambar di sini

$X_1$ $X_2$ $X_2$ $X_2$ $X_2$ $X_2$ $X_2=1$ $X_2=2$ $X_2=3$ $X_1$ $Y$ $X_2$ $X_2$

masukkan deskripsi gambar di sini

Cara lain untuk berpikir tentang perbedaan antara mengabaikan dan mengendalikan variabel lain, adalah dengan mempertimbangkan perbedaan antara distribusi marginal dan distribusi kondisional . Pertimbangkan gambar ini:

masukkan deskripsi gambar di sini

_{( Ini diambil dari jawaban saya di sini: Apa intuisi di balik distribusi bersyarat Gaussian? )}

$Y$ $Y$ $X$ $Y$ $X_1 = 25$ $X_1 = 45$ $X_1$

— gung - Reinstate Monica
sumber

Gung, ini mencerahkan, saya senang saya membuat kesalahan dengan menggunakan kata 'abaikan' dalam jawaban saya untuk pertanyaan itu. Sekarang saya akan mencoba mencari tahu bagaimana tepatnya paket statistik 'mengontrol' untuk variabel lain. (Pikiran pertama saya adalah mereka menggunakan beberapa ukuran seperti koefisien korelasi pearson. Dengan banyak variabel penjelas, semuanya akan menjadi berantakan) Terima kasih atas jawaban ini!

— Siddharth Gopi

Sama-sama, @garciaj, meskipun saya belum selesai ;-). Saya mencari sosok lain; Saya mungkin harus membuatnya dari awal.

— gung - Reinstate Monica

Gagasan penting dalam gambar pertama adalah bahwa titik-titik itu terletak di ruang tiga dimensi, dengan lingkaran merah di bidang datar di layar komputer, segitiga biru di bidang paralel sedikit di depan layar & hijau plus di pesawat sedikit di depan itu. Bidang regresi miring ke bawah ke kanan, tetapi miring ke atas saat bergerak keluar dari layar ke arah Anda. Perhatikan bahwa fenomena ini terjadi karena X1 & X2 berkorelasi, jika tidak berkorelasi, perkiraan beta akan sama.

— gung - Reinstate Monica

Dan korelasi semacam ini di antara para prediktor (misalnya, skenario @ung) adalah apa yang biasanya mendasari kasus paradoks Simpson . Di alam semesta dengan lebih dari tiga variabel, adalah bijaksana untuk mengingat bahwa itu mungkin mengintai inferensi Anda (d'oh!).

— FairMiles

@ MSIS, ketika Anda mengontrol variabel dalam model, model mencoba untuk membuatnya konstan (tetap) demi memperkirakan segala sesuatu yang lain dalam model. Namun, ini hanya upaya & tunduk pada kesalahan acak, jadi itu tidak selalu identik dengan apa yang akan Anda dapatkan jika Anda menjalankan studi dengan variabel yang secara fisik tetap pada nilai yang diberikan.

— gung - Reinstate Monica

Mereka tidak diabaikan. Jika mereka 'diabaikan' mereka tidak akan berada dalam model. Estimasi variabel penjelas bunga tergantung pada variabel lainnya. Perkiraan dibentuk "dalam konteks" atau "memungkinkan dampak" variabel-variabel lain dalam model.

— DWIN
sumber

Estimasi ini tentu saja tunduk pada variabel lain. Tetapi kita harus memurnikannya dengan memperkenalkan apa yang disebut faktor-faktor lain dalam model. Namun, kadang-kadang faktor-faktor ini mungkin bersifat kategoris dan menyebabkan lebih banyak masalah daripada memberikan solusi yang valid.

— Subhash C. Davar