Mengapa matriks proyeksi simetris proyeksi orthogonal?

Saya cukup baru dalam hal ini, jadi saya harap Anda memaafkan saya jika pertanyaannya naif. (Konteks: Saya belajar ekonometrik dari buku Davidson & MacKinnon "Teori dan Metode Econometrik" , dan mereka sepertinya tidak menjelaskan ini; Saya juga melihat buku optimisasi Luenberger yang berkaitan dengan proyeksi pada tingkat yang sedikit lebih maju, tetapi tanpa keberuntungan).

Misalkan saya memiliki proyeksi ortogonal dengan dikaitkan proyeksi matriks . Saya tertarik memproyeksikan setiap vektor di ke dalam beberapa subruang . $\mathbb P$ $\bf P$ $\mathbb{R}^n$ $A \subset \mathbb{R}^n$

Pertanyaan : mengapa mengikuti bahwa , yaitu, simetris? Buku teks apa yang bisa saya lihat untuk hasil ini? $\bf{P}=P$ $^T$ $\bf P$

regression least-squares

— weez13
sumber

en.wikipedia.org/wiki/…

— whuber

Jawaban:

Ini adalah hasil mendasar dari aljabar linier pada proyeksi ortogonal. Pendekatan yang relatif sederhana adalah sebagai berikut. Jika adalah vektor ortonormal mencakup sebuah berdimensi ruang bagian , dan adalah matriks dengan 's sebagai kolom, maka Ini mengikuti langsung dari fakta bahwa proyeksi ortogonal ke dapat dihitung dalam hal dasar ortonormal dari sebagai $u_1, \ldots, u_m$ $m$ $A$ $\mathbf{U}$ $n \times p$ $u_i$

P = U U^{T} .

$\mathbf{P} = \mathbf{U}\mathbf{U}^T.$

x

$x$

A

$A$

A

$A$

Ini mengikuti langsung dari rumus di atas bahwa

dan

\sum_{i = 1}^{m} u_{i} u_{i}^{T} x .

$\sum_{i=1}^m u_i u_i^T x.$

P^{2} = P

$\mathbf{P}^2 = \mathbf{P}$

P^{T} = P .

$\mathbf{P}^T = \mathbf{P}.$

Dimungkinkan juga untuk memberikan argumen yang berbeda. Jika adalah matriks proyeksi untuk proyeksi ortogonal, maka, menurut definisi, untuk semua Akibatnya, $\mathbf{P}$ $x,y \in \mathbb{R}^n$

P x ⊥ y - P y .

$\mathbf{P}x \perp y-\mathbf{P}y.$

untuk semua

. Menunjukkan bahwa

, mana

0 = (P x)^{T} (y - P y) = x^{T} P^{T} (I - P) y = x^{T} (P^{T} - P^{T} P) y

$0 = (\mathbf{P} x)^T (y - \mathbf{P}y) = x^T \mathbf{P}^T (I - \mathbf{P}) y = x^T (\mathbf{P}^T - \mathbf{P}^T \mathbf{P}) y$

x, y \in R^{n}

$x, y \in \mathbb{R}^n$

P^{T} = P^{T} P

$\mathbf{P}^T = \mathbf{P}^T \mathbf{P}$

P = (P^{T})^{T} = (P^{T} P)^{T} = P^{T} P = P^{T} .

$\mathbf{P} = (\mathbf{P}^T)^T = (\mathbf{P}^T \mathbf{P})^T = \mathbf{P}^T \mathbf{P} = \mathbf{P}^T.$

— NRH
sumber

Terima kasih atas komentar mendalam Anda! Entah bagaimana artikel Wikipedia, yang menyebutkan sesuatu tentang penyesuaian diri dari operator proyeksi membuat saya marah, karena bukti Anda tidak terlalu sulit. :) BTW, apakah Anda memiliki teks aljabar linear favorit yang berhubungan dengan hal-hal semacam ini?

— weez13

Buku aljabar linier dasar saya tahu yang terbaik tidak mencakup ini. Referensi terbaik yang saya tahu adalah buku lanjutan tentang analisis fungsional. The aljabar Linear dilakukan dengan benar buku terlihat bagus, tapi saya tidak tahu itu.

— NRH

x = x^{T}

$x = x^T$

(P x)^{T} = x P^{T}

$(Px)^T = xP^T$

(P x)^{T} (y - P y) = x P^{T} (I - P) y

$(Px)^T(y-Py)=xP^T(I-P)y$

x = x^{T}

$x = x^T$

P

$P$

x

$x$

(P x)^{T} = x^{T} P^{T} .

$(Px)^T = x^TP^T.$

P^{T} - P^{T} P = 0

$P^T - P^TP = 0$

x = x^{T}

$x=x^T$

x \in R^{n}

$x\in\mathbb{R}^n$

n = 1

$n=1$

x

$x$

Upaya intuisi geometris ... Ingat bahwa:

Matriks simetris adalah self adjoint.
Produk skalar hanya ditentukan oleh komponen-komponen dalam ruang linear bersama (dan tidak tergantung pada komponen ortogonal dari salah satu vektor).

$x$ $A$ $y$ $\langle x,Ay \rangle$ $x$ $y$ $\langle Ax,Ay \rangle$ $\langle Ax,y\rangle$

$A$

— JohnRos
sumber

Terima kasih banyak! Sebelum membaca komentar Anda, saya agak bingung mengapa kedekatan diri sangat penting di sini. Sekarang saya punya petunjuk, terima kasih!

— weez13