Varian kombinasi linear dari variabel acak berkorelasi

10

Saya mengerti bukti bahwa tapi saya tidak mengerti bagaimana membuktikan generalisasi untuk kombinasi linear yang sewenang-wenang.

V a r (a X + b Y) = a^{2} V a r (X) + b^{2} V a r (Y) + 2 a b C o v (X, Y),

$Var(aX+bY) = a^2Var(X) +b^2Var(Y) + 2abCov(X,Y),$

Biarkan menjadi skalar untuk sehingga kita memiliki vektor , dan menjadi vektor dari variabel acak berkorelasi. Kemudian Bagaimana kita membuktikan ini? Saya membayangkan ada bukti dalam notasi penjumlahan dan dalam notasi vektor? $a_i$ $i\in {1,\dots ,n}$ $\underline a$ $\underline X = X_i,\dots ,X_n$

V a r (a_{1} X_{1} + \dots a_{n} X_{n}) = \sum_{i = 1}^{n} a_{i}^{2} σ_{i}^{2} + 2 \sum_{i = 1}^{n} \sum_{j > i}^{n} a_{i} a_{j} Cov (X_{i}, X_{j})

$Var(a_1X_1 + \dots a_nX_n) = \sum_{i=1}^n a_i^2 \sigma_i^2 + 2 \sum_{i=1}^n \sum_{j>i}^n a_i a_j \text{ Cov}(X_i,X_j)$

mathematical-statistics variance

— Hatshepsut
sumber

18

Ini hanya latihan dalam menerapkan sifat dasar penjumlahan, linieritas harapan, dan definisi varian dan kovarian

\begin{aligned} var (\sum_{i = 1}^{n} a_{i} X_{i}) & = E [{(\sum_{i = 1}^{n} a_{i} X_{i})}^{2}] - {(E [\sum_{i = 1}^{n} a_{i} X_{i}])}^{2} & one definition of variance \\ = E [\sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} X_{i} X_{j}] - {(E [\sum_{i = 1}^{n} a_{i} X_{i}])}^{2} & basic properties of sums \\ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} E [X_{i} X_{j}] - {(\sum_{i = 1}^{n} a_{i} E [X_{i}])}^{2} & linearity of expectation \\ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} E [X_{i} X_{j}] - \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} E [X_{i}] E [X_{j}] & basic properties of sums \\ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} (E [X_{i} X_{j}] - E [X_{i}] E [X_{j}]) & combine the sums \\ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} cov (X_{i}, X_{j}) & apply a definition of covariance \\ = \sum_{i = 1}^{n} a_{i}^{2} var (X_{i}) + 2 \sum_{i = 1}^{n} \sum_{j : j > i}^{n} a_{i} a_{j} cov (X_{i}, X_{j}) & re-arrange sum \end{aligned}

$\begin{align} \operatorname{var}\left(\sum_{i=1}^n a_i X_i\right) &= E\left[\left(\sum_{i=1}^n a_i X_i\right)^2\right] - \left(E\left[\sum_{i=1}^n a_i X_i\right]\right)^2 &\scriptstyle{\text{one definition of variance}}\\ &= E\left[\sum_{i=1}^n\sum_{j=1}^n a_i a_j X_iX_j\right] - \left(E\left[\sum_{i=1}^n a_i X_i\right]\right)^2 &\scriptstyle{\text{basic properties of sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j E[X_iX_j] - \left(\sum_{i=1}^n a_i E[X_i]\right)^2 &\scriptstyle{\text{linearity of expectation}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j E[X_iX_j] - \sum_{i=1}^n \sum_{j=1}^n a_ia_j E[X_i]E[X_j] &\scriptstyle{\text{basic properties of sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j \left(E[X_iX_j] - E[X_i]E[X_j]\right)&\scriptstyle{\text{combine the sums}}\\ &= \sum_{i=1}^n\sum_{j=1}^n a_i a_j\operatorname{cov}(X_i,X_j) &\scriptstyle{\text{apply a definition of covariance}}\\ &= \sum_{i=1}^n a_i^2\operatorname{var}(X_i) + 2\sum_{i=1}^n \sum_{j\colon j > i}^n a_ia_j\operatorname{cov}(X_i,X_j) &\scriptstyle{\text{re-arrange sum}}\\ \end{align}$ Perhatikan bahwa pada langkah terakhir itu, kami juga mengidentifikasi sebagai varians .

cov (X_{i}, X_{i})

$\operatorname{cov}(X_i,X_i)$

var (X_{i})

$\operatorname{var}(X_i)$

— Dilip Sarwate
sumber

6

Anda benar-benar dapat melakukannya dengan rekursi tanpa menggunakan matriks:

Ambil hasilnya untuk dan biarkan . $\text{Var}(a_1X_1+Y_1)$ $Y_1=a_2X_2+Y_2$

$\text{Var}(a_1X_1+Y_1)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1\text{Cov}(X_1,Y_1)+\text{Var}(Y_1)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1\text{Cov}(X_1,a_2X_2+Y_2)+\text{Var}(a_2X_2+Y_2)$

$\qquad=a_1^2\text{Var}(X_1)+2a_1a_2\text{Cov}(X_1,X_2)+2a_1\text{Cov}(X_1,Y_2)+\text{Var}(a_2X_2+Y_2)$

Kemudian teruslah mengganti dan menggunakan hasil dasar yang sama, kemudian pada langkah terakhir gunakan $Y_{i-1}=a_iX_i+Y_i$ $Y_{n-1}=a_nX_n$

Dengan vektor (jadi hasilnya harus skalar):

$\text{Var}(a'\,X)=a'\,\text{Var}(X)\,a$

Atau dengan matriks (hasilnya akan menjadi matriks varians-kovarians):

$\text{Var}(A\,X)=A\,\text{Var}(X)\,A'$

Ini memiliki keuntungan memberikan kovarian dari berbagai kombinasi linier yang koefisiennya adalah deretan pada elemen off-diagonal dalam hasilnya. $A$

Bahkan jika Anda hanya mengetahui hasil univariat, Anda dapat mengonfirmasi ini dengan memeriksa elemen demi elemen.

— Glen_b -Reinstate Monica
sumber

2

Pada dasarnya, buktinya sama dengan rumus pertama. Saya akan membuktikannya menggunakan metode yang sangat brutal.

$Var(a_1X_1+...+a_nX_n)=E[(a_1X_1+..a_nX_n)^2]-[E(a_1X_1+...+a_nXn)]^2 =E[(a_1X_1)^2+...+(a_nX_n)^2+2a_1a_2X_1X_2+2a_1a_3X_1X_3+...+2a_1a_nX_1X_n+...+2a_{n-1}a_nX_{n-1}X_n]-[a_1E(X1)+...a_nE(X_n)]^2$

$=a_1^2E(X_1^2)+...+a_n^2E(X_n^2)+2a_1a_2E(X_1X_2)+...+2a_{n-1}a_nE(X_{n-1}X_n)-a_1^2[E(X_1)]^2-...-a_n^2[E(X_n)]^2-2a_1a_2E(X_1)E(X_2)-...-2a_{n-1}a_nE(X_{n-1})E(X_n)$

$=a_1^2E(X_1^2)-a_1^2[E(X_1)]^2+...+a_n^2E(X_n^2)-a_n^2[E(Xn)]^2+2a_1a_2E(X_1X_2)-2a_1a_2E(X_1)E(X_2)+...+2a_{n-1}a_nE(X_{n-1}X_n)-2a_{n-1}a_nE(X_{n-1})E(X_n)$

Catatan selanjutnya:

$a_n^2E(X_n^2)-a_n^2[E(X_n)]^2=a_n\sigma_n^2$

dan

$2a_{n-1}a_nE(X_{n-1}X_n)-2a_{n-1}a_nE(X_{n-1})E(X_n)=2a_{n-1}a_nCov(X_{n-1},Xn)$

— Jauh di Utara
sumber

2

Hanya untuk bersenang-senang, buktikan dengan induksi!

Misalkan adalah pernyataan bahwa $P(k)$ $Var[\sum_{i=1}^k a_iX_i] = \sum_{i=1}^k a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j]$

Maka benar (sepele) benar (Anda bilang Anda senang dengan itu dalam pertanyaan). $P(2)$

Anggaplah P (k) benar. Jadi,

$Var[\sum_{i=1}^{k+1} a_iX_i] = Var[\sum_{i=1}^{k} a_iX_i + a_{k+1}X_{k+1}]$

$=Var[\sum_{i=1}^{k} a_iX_i] + Var[a_{k+1}X_{k+1}] + 2 Cov[\sum_{i=1}^{k} a_iX_i,a_{k+1}X_{k+1}]$

$=\sum_{i=1}^k a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j]+ a_{k+1}^2\sigma_{k+1}^2 + 2Cov[\sum_{i=1}^{k} a_iX_i, a_{k+1}X_{k+1}]$

$=\sum_{i=1}^{k+1} a_i^2\sigma_i^2 + 2\sum_{i=1}^k \sum _{j>i}^k a_ia_jCov[X_i, X_j] + 2\sum_{i=1}^ka_ia_{k+1}Cov[X_i, X_{k+1}]$

$=\sum_{i=1}^{k+1} a_i^2\sigma_i^2 + 2\sum_{i=1}^{k+1} \sum _{j>i}^{k+1} a_ia_jCov[X_i, X_j]$

Jadi benar. $P(k+1)$

Jadi, dengan induksi,

$Var[\sum_{i=1}^n a_iX_i] = \sum_{i=1}^n a_i^2\sigma_i^2 + 2\sum_{i=1}^n \sum _{j>i}^n a_ia_jCov[X_i, X_j]$ untuk semua bilangan bulat . $n \geq 2$

— Jonathan
sumber