Bagaimana "Teorema Dasar Analisis Faktor" berlaku untuk PCA, atau bagaimana pemuatan PCA didefinisikan?

Saya saat ini akan melalui set slide yang saya miliki untuk "analisis faktor" (PCA sejauh yang saya tahu).

Di dalamnya, "teorema fundamental analisis faktor" diturunkan yang mengklaim bahwa matriks korelasi dari data yang dimasukkan ke dalam analisis ( ) dapat dipulihkan dengan menggunakan matriks pemuatan faktor ( ): $\bf R$ $\bf A$

R = SEBUAH {SEBUAH}^{⊤}

$\bf R = AA^\top$

Namun ini membingungkan saya. Dalam PCA, matriks "load faktor" diberikan oleh matriks vektor eigen dari matriks kovarians / korelasi data (karena kami mengasumsikan bahwa data telah distandarisasi, semuanya sama), dengan setiap vektor eigen diskalakan untuk memiliki panjang satu. Matriks ini adalah orthogonal, sehingga yang pada umumnya tidak sama dengan . $\bf AA^\top = I$ $\bf R$

— pengguna2249626
sumber

Selain jawaban @ amoeba, lihat di jawaban saya menambahkan ambiguitas terminologis. Saya tidak merekomendasikan untuk memanggil matriks vektor eigen A(yang memuat), untuk alasan kejelasan. Matriks vektor eigen (sisi kanan) biasanya diberi label V(karena R=USV'oleh svd), bukan A. Nama lain yang setara (berasal dari terminologi biplot) untuk vektor eigen adalah "koordinat standar", dan untuk memuat adalah "koordinat utama".

— ttnphns

("koordinat standar" - karena kelembaman, atau skala nilai eigen, adalah satuan satuan ketika menganugerahkannya; "koordinat utama" - karena ini adalah besaran penuh asli ketika menganugerahkannya.)

— ttnphns

Ini adalah pertanyaan yang masuk akal (+1) yang berasal dari ambiguitas dan kebingungan terminologis.

Dalam konteks PCA, orang sering menyebut sumbu utama (vektor eigen dari matriks kovarians / korelasi) "memuat". Ini adalah terminologi yang ceroboh. Apa yang seharusnya disebut "memuat" dalam PCA, adalah sumbu utama yang diskalakan oleh akar kuadrat dari nilai eigen masing-masing. Maka teorema yang Anda maksudkan akan berlaku.

R = V S V^{⊤}

$\mathbf R = \mathbf V \mathbf S \mathbf V^\top$

V

$\mathbf V$

S

$\mathbf S$

SEBUAH = V S^{1 / 2},

$\mathbf A = \mathbf V \mathbf S^{1/2},$

R = SEBUAH {SEBUAH}^{⊤} .

$\mathbf R = \mathbf A \mathbf A^\top.$

r

$r$

r

$r$

R \approx {SEBUAH}_{r} {SEBUAH}_{r}^{⊤} .

$\mathbf R \approx \mathbf A_r \mathbf A_r^\top.$

Silakan lihat jawaban saya di sini untuk informasi lebih lanjut tentang merekonstruksi matriks kovarian dengan analisis faktor dan pemuatan PCA.

— amuba kata Reinstate Monica
sumber