Transformasi linear dari variabel acak dengan matriks persegi panjang yang tinggi

Katakanlah kita memiliki vektor acak , diambil dari distribusi dengan fungsi kerapatan probabilitas . Jika kita mengubahnya secara linear dengan peringkat penuh matriks untuk mendapatkan , maka kepadatan diberikan oleh $\vec{X} \in \mathbb{R}^n$ $f_\vec{X}(\vec{x})$ $n \times n$ $A$ $\vec{Y} = A\vec{X}$ $\vec{Y}$

f_{\vec{Y}} (\vec{y}) = \frac{1}{| det A |} f_{\vec{X}} (A^{- 1} \vec{y}) .

$f_{\vec{Y}}(\vec{y}) = \frac{1}{\left|\det A\right|}f_{\vec{X}}(A^{-1}\vec{y}).$

Sekarang katakanlah kita mengubah sebagai gantinya dengan matriks , dengan , memberi $\vec{X}$ $m \times n$ $B$ $m > n$ . Jelas, tetapi "hidup pada" sebuahberdimensi ruang bagian. Berapakah densitas bersyarat dari , mengingat bahwa kita tahu itu terletak pada? $\vec{Z} = B\vec{X}$ $Z \in \mathbb{R}^m$ $n$ $G \subset \mathbb{R}^m$ $\vec{Z}$ $G$

Insting pertama saya adalah untuk menggunakan pseudo-inverse dari . Jika adalah dekomposisi nilai singular , maka $B$ $B = U S V^T$ $B$ adalah pseudo-inverse, di mana dibentuk dengan membalik non zero-entri dari matriks diagonal . Saya menduga ini akan memberikan $B^+ = V S^+ U^T$ $S^+$ $S$ mana olehsaya maksud adalah produk dari nilai singular non-nol.

f_{\vec{Z}} (\vec{z}) = \frac{1}{| \overset{+}{det} S |} f_{\vec{X}} (B^{+} \vec{z}),

$f_\vec{Z}(\vec{z}) = \frac{1}{\left|\det^+ S\right|} f_\vec{X}(B^+ \vec{z}),$

\overset{+}{det} S

$\det^+ S$

Alasan ini setuju dengan kepadatan untuk normal tunggal (dikondisikan pada pengetahuan bahwa variabel hidup pada subruang yang sesuai) yang diberikan di sini dan disebutkan juga di sini dan di pos CrossValidated ini .

Tapi itu tidak benar! Konstanta normalisasi tidak aktif. Contoh tandingan (sepele) diberikan dengan mempertimbangkan kasus berikut: Dengan , misalkan $X \sim \mathcal{N(0, 1)}$ Di sini matriks dari atas hanyalah vektor. Its pseudo-inverse adalah dan

\vec{Y} = (\begin{matrix} 1 \\ 1 \end{matrix}) X = (\begin{matrix} X \\ X \end{matrix}) .

$\vec{Y} = \begin{pmatrix}1 \\ 1\end{pmatrix} X = \begin{pmatrix}X \\ X\end{pmatrix}.$

B

$B$

B^{+} = (\begin{matrix} 1 / 2 & 1 / 2 \end{matrix})

$B^+ = \begin{pmatrix}1/2 & 1/2\end{pmatrix}$

. Alasan dari atas akan menyarankan

\overset{+}{det} B = \sqrt{2}

$\det^+ B = \sqrt{2}$

tetapi ini sebenarnya terintegrasi (pada baris

) ke

f_{\vec{Y}} (\vec{y}) = \frac{1}{\sqrt{2 π} \sqrt{2}} \exp (- \frac{1}{2} {\vec{y}}^{T} (B^{+})^{T} B^{+} \vec{y}),

$f_\vec{Y}(\vec{y}) = \frac{1}{\sqrt{2\pi}\sqrt{2}}\exp\left(-\frac{1}{2}\vec{y}^T (B^+)^T B^+ \vec{y}\right),$

y = x

$y = x$

. Saya menyadari dalam hal ini Anda bisa saja menjatuhkan salah satu entri

Anda selesai, tetapi ketika

jauh lebih besar, mengidentifikasi set entri yang akan dihapus itu mengganggu. Mengapa penalaran pseudo-terbalik bekerja? Apakah ada rumus umum untuk fungsi kerapatan dari transformasi linear dari serangkaian variabel acak oleh matriks "tinggi"? Referensi apa pun akan sangat dihargai juga.

\frac{1}{\sqrt{2}}

$\frac{1}{\sqrt{2}}$

\vec{Y}

$\vec{Y}$

B

$B$

— Dan
sumber

$y = x$ $x$ $\sqrt{2}$ $x \mapsto (x, x)$ $\vec{y}$ $\sqrt{2}$ $\sqrt{2}$

$B$ $G$ $B$ $m \times n$ $L$ $B$

f_{\vec{Z}} (\vec{z}) = \frac{| \overset{+}{det} L. |}{| \overset{+}{det} B |} f_{\vec{X}} (B^{+} \vec{z}) .

$f_{\vec{Z}}(\vec{z}) = \frac{\left|\det^+ L\right|}{\left|\det^+ B\right|}f_{\vec{X}}(B^+ \vec{z}).$

$B$ $\vec{z}$ $\hat B$ $n \times n$ $B$

— Dan
sumber