Apakah setiap matriks korelasi pasti positif?

11

Saya berbicara di sini tentang matriks korelasi Pearson.

Saya sering mendengarnya mengatakan bahwa semua matriks korelasi harus semidefinit positif. Pemahaman saya adalah bahwa matriks pasti positif harus memiliki nilai eigen , sedangkan matriks semidefinit positif harus memiliki nilai eigen . Ini membuat saya berpikir bahwa pertanyaan saya dapat diulangi sebagai "Apakah mungkin matriks korelasi memiliki nilai eigen ?" $> 0$ $\ge 0$ $= 0$

Apakah mungkin untuk matriks korelasi (dihasilkan dari data empiris, tanpa data yang hilang) untuk memiliki nilai eigen , atau nilai eigen ? Bagaimana jika itu adalah matriks korelasi populasi? $= 0$ $< 0$

Saya membaca di jawaban atas pertanyaan ini tentang matriks kovarian yang

Mempertimbangkan tiga variabel, , dan . Matriks kovarian mereka, , tidak pasti positif, karena ada vektor ( ) yang tidak positif. $X$ $Y$ $Z = X+Y$ $M$ $z$ $= (1, 1, -1)'$ $z'Mz$

Namun, jika alih-alih matriks kovarians saya melakukan perhitungan pada matriks korelasi maka keluar sebagai positif. Jadi saya pikir mungkin situasinya berbeda untuk matriks korelasi dan kovarian. $z'Mz$

Alasan saya bertanya adalah karena saya ditanyai tentang stackoverflow , sehubungan dengan pertanyaan yang saya ajukan di sana.

covariance-matrix eigenvalues correlation-matrix

— user1205901 - Pasang kembali Monica
sumber

Jika, misalnya, dua atribut adalah satu hal, hanya memiliki nama yang berbeda, matriksnya singular. Jika dua atribut menambah konstanta, sekali lagi singular, dan lain-lain .

— ttnphns

Jika matriks kovarians adalah matriks korelasi singular adalah singular juga.

— ttnphns

2

Hampir duplikat: Apakah setiap matriks korelasi positif semi-pasti? yang kurang fokus pada sudut pasti dan semi-pasti, dan Apakah setiap matriks kovarian positif pasti? yang relevan karena kovarians pada dasarnya adalah korelasi yang diskala ulang.

— Silverfish

16

Matriks korelasi tidak harus pasti positif.

Pertimbangkan skalar variabel acak X yang memiliki varian tidak nol. Kemudian matriks korelasi X dengan dirinya sendiri adalah matriks dari semua yang, yang positif semi-pasti, tetapi tidak pasti positif.

Adapun korelasi sampel, pertimbangkan data sampel untuk di atas, memiliki pengamatan pertama 1 dan 1, dan pengamatan kedua 2 dan 2. Ini menghasilkan korelasi sampel menjadi matriks semua yang ada, jadi tidak pasti positif.

Matriks korelasi sampel, jika dihitung dalam aritmatika yang tepat (yaitu, tanpa kesalahan pembulatan) tidak dapat memiliki nilai eigen negatif.

— Mark L. Stone
sumber

4

Mungkin layak menyebutkan efek yang mungkin dari nilai yang hilang pada matriks korelasi sampel . Fuzz numerik bukan satu-satunya alasan untuk mendapatkan nilai eigen negatif dalam matriks korelasi / kovarian sampel.

— Silverfish

1

Ya, saya tidak membuatnya secara eksplisit, tetapi saya berasumsi, per pernyataan pertanyaan, "tanpa data yang hilang". Setelah Anda masuk ke dunia liar, aneh data yang hilang dan penyesuaian untuk itu, apa pun bisa terjadi.

— Mark L. Stone

Ya, maaf, Anda benar pertanyaan itu mengatakan "tidak ada data yang hilang" - hanya berpikir itu layak disebutkan di suatu tempat karena pencari masa depan mungkin tertarik bahkan jika selera OP terpuaskan!

— Silverfish

7

Jawaban oleh @yoki dan @MarkLStone (+1 untuk keduanya) keduanya menunjukkan bahwa matriks korelasi populasi dapat memiliki nol nilai eigen jika variabel terkait linear (seperti misalnya dalam contoh @MarkLStone dan dalam contoh @yoki). $X_1 = X_2$ $X_1 = 2X_2$

Selain itu, matriks korelasi sampel tentu akan memiliki nol nilai eigen jika , yaitu jika ukuran sampel lebih kecil dari jumlah variabel. Dalam hal ini, matriks kovarian dan korelasi keduanya berada pada peringkat paling atas , sehingga setidaknya akan ada nilai eigen nol . Lihat Mengapa matriks kovarians sampel tunggal ketika ukuran sampel kurang dari jumlah variabel? dan Mengapa pangkat matriks kovarians paling banyak ? $n<p$ $n-1$ $p-n+1$ $n-1$

— amuba
sumber

Benar, dat. Saya kira saya bisa dan seharusnya memberikan informasi ini juga, tetapi tujuan saya adalah untuk menghasilkan sampel tandingan untuk membantah hipotesis OP, dengan demikian menunjukkan ketidakabsahannya. Namun, Anda harus menyesuaikan kalimat kedua Anda menjadi "Dalam hal ini kovarians dan matriks korelasi akan berada pada peringkat paling tinggi n − 1, sehingga akan ada setidaknya (p − n + 1) nol nilai eigen. "

— Mark L. Stone

4

Anggap sebagai rv dengan mean 0 dan varians dari 1. Misalkan , dan hitung matriks kovarians dari . Karena , , dan $X$ $Y=2X$ $(X,Y)$ $2X=Y$ $E[Y^2]=4E[X^2]=\sigma_Y^2$ $E[XY]=2E[X^2]$ . Karena konfigurasi rata-rata nol, momen kedua sama dengan kovarian yang sesuai, misalnya: . $\mbox{Cov}(X,Y)=E[XY]-EXEY=E[XY]$

Jadi matriks kovarians akan menjadi: memiliki nilai eigen nol. Matriks korelasi adalah: memiliki nilai eigen nol juga. Karena korespondensi linier antara dan , mudah untuk melihat mengapa kita mendapatkan matriks korelasi ini - diagonal akan selalu 1, dan off-diagonal adalah 1 karena hubungan linear.

Λ = (\begin{matrix} 1 & 2 \\ 2 & 4 \end{matrix}),

$\Lambda = \left(\array{1 & 2 \\ 2 & 4 }\right),$

Λ = (\begin{matrix} 1 & 1 \\ 1 & 1 \end{matrix}),

$\Lambda = \left(\array{1 & 1 \\ 1 & 1 }\right),$

X

$X$

Y

$Y$

— yoki
sumber

2

Λ

$\Lambda$

c o v (X, Y) = E (X Y) - E (X) E (Y) = 2 E [X^{2}] = 2 (σ_{X}^{2} + [E (X)]^{2})

$cov(X,Y)= \mathbb{E}(XY)-\mathbb{E}(X)\mathbb{E}(Y)= 2\mathbb{E}[X^2]=2\left(\sigma_X^2+[E(X)]^2\right)$

E (X^{2}) = Var (X) + [E (X)]^{2}

$E(X^2)=\text{Var}(X)+[E(X)]^2$

d i a g Λ^{- 1 / 2} Λ d i a g Λ^{1 / 2}

$diag \Lambda^{-1/2}\,\Lambda\, diag \Lambda^{1/2}$

@AntoniParellada, saya tidak yakin apa yang Anda maksud - kovarians di sini adalah perhitungan langsung. Tapi saya akan mengedit dan membuatnya lebih jelas. Terima kasih.

— yoki