Menggunakan Dekomposisi Nilai Singular untuk Menghitung Varians Covariance Matrix dari model regresi linier

Saya memiliki matriks desain regresi p, pengamatan n, dan saya mencoba untuk menghitung sampel varians-kovarians matriks parameter. Saya mencoba untuk langsung menghitungnya menggunakan svd.

Saya menggunakan R, ketika saya mengambil svd dari matriks desain, saya mendapatkan tiga komponen: matriks yang n × p , matriks D yang 1 × 3 (mungkin nilai eigen), dan matriks V yang 3 × 3 . Aku didiagonalkan D , membuatnya menjadi 3 × 3 matriks dengan 0 dalam off-diagonal.$U$$n \times p$$D$$1\times 3$$V$$3\times 3$$D$$3\times 3$

Seharusnya, rumus untuk kovarians adalah: , namun, matriks tidak cocok, juga tidak dekat dengan fungsi bawaan R ,. Adakah yang punya saran / referensi? Saya akui bahwa saya agak tidak terampil dalam bidang ini.$V D^2 V'$vcov

$$\hat{\beta} \sim \mathcal{N}( \beta, \sigma^2 (X^T X)^{-1} ) .$$

$X = U D V^T$$X^T X = V D U^T U D V = V D^2 V^T$

$$(X^T X)^{-1} = V D^{-2} V^T .$$

$$\hat{\sigma}^2 = \frac{1}{n - p} (y^T y - \hat{\beta}^T X^T y) .$$

$\hat{\sigma}^2 V D^{-2} V^T$

$V D^2 V^T$$X^T X$$R$

vcov.matrix <- var.est * (v %*% d^(-2) %*% t(v))

mengamati bahwa untuk perkalian matriks kita gunakan %*%bukan hanya *. var.estdi atas adalah perkiraan varian kebisingan.

$X$$n \geq p$