Mengapa produk dari koefisien regresi bivariat dari garis on- dan on- sama dengan kuadrat korelasi?

11

Ada model regresi di mana dengan dan , yang memiliki koefisien korelasi . $Y = a + bX$ $a = 1.6$ $b=0.4$ $r = 0.60302$

Jika dan kemudian beralih dan persamaan menjadi mana dan , ia juga memiliki nilai . $X$ $Y$ $X = c + dY$ $c=0.4545$ $d=0.9091$ $r$ $0.60302$

Saya berharap seseorang dapat menjelaskan mengapa juga . $(d\times b)^{0.5}$ $0.60302$

correlation regression-coefficients

— Mike
sumber

17

$b = r \; \text{SD}_y / \text{SD}_x$ dan , jadi . $d = r \; \text{SD}_x / \text{SD}_y$ $b\times d = r^2$

Banyak buku teks statistik akan menyentuh ini; Saya suka Freedman et al., Statistics . Lihat juga di sini dan artikel wikipedia ini .

— Karl
sumber

10

Lihatlah Tiga Belas Cara untuk Melihat Koefisien Korelasi - dan terutama cara 3, 4, 5 akan sangat menarik bagi Anda.

Rodgers, JL, & Nicewander, WA (1988). Tiga belas cara untuk melihat koefisien korelasi . Ahli Statistik Amerika, 42, 1 , hlm. 59-66.

— Ingin tahu
sumber

2

Ini mungkin seharusnya komentar. Perhatikan bahwa tautannya mati. Saya telah memperbarui tautan & memberikan kutipan lengkap. Bisakah Anda menguraikan, atau memberikan informasi tambahan sehingga ini akan tetap bernilai bahkan jika tautannya mati lagi?

— gung - Reinstate Monica

2

Artikel Rodgers & Nicewander dirangkum di situs kami di stats.stackexchange.com/q/70969/22228 .

— whuber

3

$\DeclareMathOperator{\Cov}{Cov}$ $\DeclareMathOperator{\Corr}{Corr}$ $\DeclareMathOperator{\SD}{SD}$ $\DeclareMathOperator{\Var}{Var}$ $\DeclareMathOperator{\sgn}{sgn}$ $\DeclareMathOperator{\nsum}{\sum_{i=1}^{n}}$

Ingat bahwa banyak teks pengantar mendefinisikan

S_{x y} = \sum_{i = 1}^{n} (x_{i} - \bar{x}) (y_{i} - \bar{y})

$S_{xy} = \nsum (x_i - \bar x)(y_i - \bar y)$

Kemudian dengan menetapkan sebagai kita memiliki dan demikian pula . $y$ $x$ $S_{xx} = \nsum (x_i - \bar x)^2$ $S_{yy} = \nsum (y_i - \bar y)^2$

Rumus untuk koefisien korelasi , kemiringan dari regresi on- ( Anda ) dan kemiringan dari regresi on- (Anda ) sering diberikan sebagai: $r$ $y$ $x$ $b$ $x$ $y$ $d$

\begin{aligned} (1) & r & = \frac{S_{x y}}{\sqrt{S_{x x} S_{y y}}} \\ (2) & {\hat{β}}_{y on x} & = \frac{S_{x y}}{S_{x x}} \\ (3) & {\hat{β}}_{x on y} & = \frac{S_{x y}}{S_{y y}} \end{aligned}

$\begin{align} r &= \frac{S_{xy}}{\sqrt{S_{xx}S_{yy}}} \tag{1} \\ \hat \beta_{y\text{ on }x} &= \frac{S_{xy}}{S_{xx}} \tag{2} \\ \hat \beta_{x\text{ on }y} &= \frac{S_{xy}}{S_{yy}} \tag{3} \end{align}$

Kemudian mengalikan dan dengan jelas memberikan kuadrat dari : $(2)$ $(3)$ $(1)$

{\hat{β}}_{y on x} \cdot {\hat{β}}_{x on y} = \frac{S_{x y}^{2}}{S_{x x} S_{y y}} = r^{2}

$\hat \beta_{y\text{ on }x} \cdot \hat \beta_{x\text{ on }y} = \frac{S_{xy}^2}{S_{xx}S_{yy}} = r^2$

Atau pembilang dan penyebut dari fraksi dalam , dan sering dibagi dengan atau sehingga hal-hal dibingkai dalam hal sampel atau perkiraan varians dan kovariansi. Misalnya, dari , koefisien korelasi yang diestimasi hanyalah estimasi kovarians, yang diukur dengan estimasi standar deviasi: $(1)$ $(2)$ $(3)$ $n$ $(n-1)$ $(1)$

\begin{aligned} (4) & r & = \hat{Corr} (X, Y) = \frac{\hat{Cov} (X, Y)}{\hat{SD (X)} \hat{SD (Y)}} \\ (5) & {\hat{β}}_{y on x} & = \frac{\hat{Cov} (X, Y)}{\hat{Var (X)}} \\ (6) & {\hat{β}}_{x on y} & = \frac{\hat{Cov} (X, Y)}{\hat{Var (Y)}} \end{aligned}

$\begin{align} r &= \widehat \Corr(X,Y) = \frac{\widehat \Cov(X,Y)}{\widehat{\SD(X)}\widehat{\SD(Y)}} \tag{4} \\ \hat \beta_{y\text{ on }x} &= \frac{\widehat \Cov(X,Y)}{\widehat{\Var(X)}} \tag{5} \\ \hat \beta_{x\text{ on }y} &= \frac{\widehat \Cov(X,Y)}{\widehat{\Var(Y)}} \tag{6} \end{align}$

Kami kemudian segera menemukan dari mengalikan dan itu $(5)$ $(6)$

{\hat{β}}_{y on x} {\hat{β}}_{x on y} = \frac{\hat{Cov} (X, Y)^{2}}{\hat{Var (X)} \hat{Var (Y)}} = {(\frac{\hat{Cov} (X, Y)}{\hat{SD (X)} \hat{SD (Y)}})}^{2} = r^{2}

$\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y} = \frac{\widehat \Cov(X,Y)^2}{\widehat{\Var(X)}\widehat{\Var(Y)}} = \left( \frac{\widehat \Cov(X,Y)}{\widehat{\SD(X)}\widehat{\SD(Y)}} \right)^2 = r^2$

Kami mungkin sebaliknya telah mengatur ulang untuk menulis kovarians sebagai korelasi "ditingkatkan": $(4)$

\begin{matrix} (7) & \hat{Cov} (X, Y) = r \cdot \hat{SD (X)} \hat{SD (Y)} \end{matrix}

$\widehat \Cov(X,Y) = r\cdot \widehat{\SD(X)} \widehat{\SD(Y)} \tag{7}$

Kemudian dengan mengganti menjadi dan kita dapat menulis ulang koefisien regresi sebagai dan . Mengalikan ini bersama-sama juga akan menghasilkan , dan ini adalah solusi @ Karl. Menuliskan lereng dengan cara ini membantu menjelaskan bagaimana kita dapat melihat koefisien korelasi sebagai kemiringan regresi standar . $(7)$ $(5)$ $(6)$ $\hat \beta_{y\text{ on }x} = r \frac{\widehat \SD(y)}{\widehat \SD(x)}$ $\hat \beta_{x\text{ on }y} = r \frac{\widehat \SD(x)}{\widehat \SD(y)}$ $r^2$

Terakhir perhatikan bahwa dalam kasus Anda tetapi ini karena korelasi Anda positif. Jika korelasi Anda negatif, maka Anda harus mengambil akar negatif. $r = \sqrt{bd} =\sqrt{\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y}}$

Untuk mengetahui apakah korelasi Anda positif atau negatif, Anda hanya perlu memperhatikan tanda (plus atau minus) dari koefisien regresi Anda - tidak masalah apakah Anda melihat -on-0 atau -on karena tanda-tanda mereka akan sama. Jadi Anda bisa menggunakan rumus: $y$ $x$ $x$ $y$

r = sgn ({\hat{β}}_{y on x}) \sqrt{{\hat{β}}_{y on x} {\hat{β}}_{x on y}}

$r = \sgn(\hat \beta_{y\text{ on }x}) \sqrt{\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y}}$

di mana adalah fungsi signum , yaitu jika kemiringan positif dan jika kemiringan negatif. $\sgn$ $+1$ $-1$

— Gegat
sumber

1

Anda mungkin menemukan jawaban saya ini menarik meskipun tidak secara eksplisit menjawab pertanyaan yang diajukan di sini.

— Dilip Sarwate