Apa distribusi pada kuadran k-dimensi positif dengan matriks kovarians parametrizable?

Berikut zzk 's pertanyaan pada masalah dengan simulasi negatif, saya bertanya-tanya apa keluarga parametrized distribusi pada kuadran k-dimensi positif, yang kovarians matriks dapat ditetapkan. $\mathbb{R}_+^k$ $\Sigma$

Seperti yang didiskusikan dengan zzk , mulai dari distribusi pada dan menerapkan transformasi linear tidak berfungsi. $\mathbb{R}_+^k$ $X \longrightarrow\Sigma^{1/2} (X-\mu) + \mu$

distributions multivariate-analysis covariance

— Xi'an
sumber

Jawaban:

Misalkan kita memiliki vektor acak normal multivarian dengan dan peringkat penuh matriks definitif simetris positif positif .

(\log X_{1}, \dots, \log X_{k}) \sim N (μ, Σ),

$(\log X_1,\dots,\log X_k) \sim N(\mu,\Sigma) \, ,$

μ \in R^{k}

$\mu\in\mathbb{R}^k$

k \times k

$k\times k$

Σ = (σ_{i j})

$\Sigma=(\sigma_{ij})$

Untuk lognormal tidak sulit untuk membuktikan bahwa $(X_1,\dots,X_k)$

m_{i} := E [X_{i}] = e^{μ_{i} + σ_{i i} / 2}, i = 1, \dots, k,

$m_i := \textrm{E}[X_i] = e^{\mu_i + \sigma_{ii}/2} \, , \quad i=1,\dots,k\, ,$

c_{i j} := Cov [X_{i}, X_{j}] = m_{i} m_{j} (e^{σ_{i j}} - 1), i, j = 1, \dots, k,

$c_{ij} := \textrm{Cov}[X_i,X_j] = m_i \,m_j \,(e^{\sigma_{ij}} - 1) \, , \quad i,j=1,\dots,k\, ,$

dan itu mengikuti . $c_{ij}>-m_im_j$

Oleh karena itu, kita dapat mengajukan pertanyaan sebaliknya: diberikan dan matriks definitif positif simetris , memuaskan , jika kita membiarkan kita akan memiliki vektor lognormal dengan cara dan kovarian yang ditentukan. $m=(m_1,\dots,m_k)\in\mathbb{R}^k_+$ $k\times k$ $C=(c_{ij})$ $c_{ij}>-m_im_j$

μ_{i} = \log m_{i} - \frac{1}{2} \log (\frac{c_{i i}}{m_{i}^{2}} + 1), i = 1, \dots, k,

$\mu_i = \log m_i - \frac{1}{2} \log\left(\frac{c_{ii}}{m_i^2} + 1 \right) \, , \quad i=1,\dots,k \, ,$

σ_{i j} = \log (\frac{c_{i j}}{m_{i} m_{j}} + 1), i, j = 1, \dots, k,

$\sigma_{ij} = \log\left(\frac{c_{ij}}{m_i m_j} + 1 \right) \, , \quad i,j=1,\dots,k \, ,$

Batasan pada dan sama dengan kondisi alami . $C$ $m$ $\textrm{E}[X_i X_j]>0$

— Zen
sumber

Hebat, Paulo! Anda mendapatkan solusi yang berfungsi dan kondisi yang tepat pada matriks kovarian, yang juga menjawab pertanyaan ini . Log-normals terbukti lebih handier daripada gammas, pada akhirnya.

— Xi'an

Sebenarnya, saya punya solusi untuk pejalan kaki.

Mulai dengan dan pilih dua parameter yang sesuai dengan nilai , . $X_1\sim \text{Ga}(\alpha_{11},\beta_{1})$ $\mathbb{E}[X_1]$ $\text{var}(X_1)$
Ambil dan pilih tiga parameter yang sesuai dengan nilai , , dan . $X_2|X_1\sim \text{Ga}(\alpha_{21}X_1+\alpha_{22},\beta_{2})$ $\mathbb{E}[X_2]$ $\text{var}(X_2)$ $\text{cov}(X_1,X_2)$
Ambil dan pilih empat parameter yang sesuai dengan nilai , , dan . $X_3|X_1,X_2\sim \text{Ga}(\alpha_{31}X_1+\alpha_{32}X_2+\alpha_{33},\beta_{3})$ $\mathbb{E}[X_3]$ $\text{var}(X_3)$ $\text{cov}(X_1,X_3)$ $\text{cov}(X_2,X_3)$

dan seterusnya ... Namun, mengingat kendala pada parameter dan sifat non-linear dari persamaan momen, mungkin beberapa rangkaian momen sesuai dengan tidak ada set parameter yang dapat diterima.

Misalnya, ketika , saya berakhir dengan sistem persamaan $k=2$

β_{1} = μ_{1} / σ_{1}^{2}, α_{11} - μ_{1} β_{1} = 0

$\beta_1 =\mu_1/\sigma_1^2\,,\quad \alpha_{11}-\mu_1\beta_1 =0$

α_{22} = μ_{2} β_{2} - α_{21} μ_{1}, α_{21} = \frac{(σ_{12} + μ_{1} μ_{2} - μ_{2})}{σ_{1}^{2} + μ_{1}^{2} - μ_{1}} β_{2}

$\alpha_{22} = \mu_2\beta_2 - \alpha_{21}\mu_1\,,\quad \alpha_{21} = \dfrac{(\sigma_{12}+\mu_1\mu_2-\mu_2)}{\sigma^2_1+\mu_1^2- \mu_1}\beta_2$

\frac{(σ_{12} + μ_{1} μ_{2} - μ_{2})^{2}}{(σ_{1}^{2} + μ_{1}^{2} - μ_{1})^{2}} σ_{1}^{2} + \frac{μ_{2}}{β_{2}} = σ_{2}^{2} .

$\dfrac{(\sigma_{12}+\mu_1\mu_2-\mu_2)^2}{(\sigma^2_1+\mu_1^2- \mu_1)^2} \sigma_1^2 + \dfrac{\mu_2}{\beta_2} = \sigma^2_2\,.$ Menjalankan kode R dengan nilai arbitrer (dan dapat diterima apriori) untuk dan menyebabkan banyak kasus tanpa solusi. Sekali lagi, ini tidak berarti banyak karena matriks korelasi untuk distribusi pada mungkin memiliki batasan yang lebih kuat yang hanya merupakan penentu positif.

μ

$\mu$

Σ

$\Sigma$

R_{+}^{2}

$\mathbb{R}_+^2$

update (04/04): deinst mengulang pertanyaan ini sebagai pertanyaan baru di forum matematika.

— Xi'an
sumber

Salah satu cara memperluas ini adalah dengan mempertimbangkan keluarga eksponensial alami Kemudian mean dan kovariansi adalah gradien dan Hessian dari . Jika adalah polinomial (dengan eksponen nyata> -1) maka adalah log polinomial (dengan eksponen nyata), dan varians dan Hessian adalah fungsi rasional. Saya pikir ini memberikan kebebasan yang cukup untuk merepresentasikan matriks mean dan kovarian.

f (X | θ) = h (x) e^{θ^{T} X - A (θ)} .

$f(\mathbf{X}|\mathbf\theta)=h(\mathbf{x})e^{\mathbf\theta^T\mathbf{X}-A(\mathbf\theta)}.$

A

$A$

h

$h$

A

$A$

— deinst

@deinst: (+1) Apakah Anda memiliki contoh di mana representasi keluarga eksponensial ini dapat dieksploitasi secara langsung?

— Xi'an

Mungkin saya tidak mengerti masalahnya. Tetapi, pertimbangkan vektor acak bivariat dengan marginal yang sama dengan dukungan penuh pada dan memiliki rata-rata . Bagaimana seperti distribusi bivariat dapat memiliki korelasi dekat dengan -1, misalnya? Secara heuristik, meskipun saya belum melakukan ini, tampaknya jika , maka kontradiksi mengenai dukungan harus muncul. Tidak?

(X, Y)

$(X,Y)$

F

$F$

R_{+}

$\mathbb R_{+}$

0 < μ < \infty

$0 < \mu < \infty$

ρ

$\rho$

P (X > 2 μ) > 0

$\mathbb P(X > 2 \mu) > 0$

— kardinal

Tentu saja ada kendala pada matriks kovarians ketika dukungannya , dibahas melalui kondisi momen Stieltjes . Lagi pula, saya tidak melihat mengapa korelasi dekat dengan -1 dikecualikan secara apriori .

Σ

$\Sigma$

R_{+}^{k}

$\mathbb{R}^k_+$

— Xi'an

Benar, ini terkait dengan apa yang saya maksudkan. Mengenai korelasinya, perhatikan contoh saya. Jika dan memiliki marginal yang sama dengan mean dan korelasi tepat -1 dan , berapakah nilai harus untuk semua realisasi ? (+1 pada pertanyaan dan jawaban. Saya suka ini.)

X

$X$

Y

$Y$

F

$F$

μ

$\mu$

P (X > 2 μ) > 0

$\mathbb P(X > 2 \mu) > 0$

Y

$Y$

X

$X$

— kardinal

OK, ini adalah tanggapan atas komentar Xi'an. Itu terlalu panjang dan harus terlalu banyak untuk menjadi komentar yang nyaman. Peringatan Lektor: Ini hampir pasti bahwa saya telah membuat kesalahan aljabar. Ini sepertinya tidak sefleksibel yang saya kira.

Mari kita membuat keluarga distribusi di dari bentuk Biarkan dan . Biarkan menjadi polinomial dua istilah di mana adalah bilangan real yang lebih besar dari 0 untuk semua . Lalu kita temukan itu $\mathbb{R}_+^3$

f (x | θ) = h (x) e^{- θ^{T} x - A (θ)}

$f(\mathbf{x}|\mathbf\theta)=h(\mathbf{x})e^{-\mathbf\theta^T\mathbf{x}-A(\mathbf\theta)}$

x = (x, y, z)

$\mathbf{x}=(x,y,z)$

θ = (θ_{1}, θ_{2}, θ_{3})

$\mathbf\theta=(\theta_1,\theta_2,\theta_3)$

h (x) = c x_{1}^{e_{1} - 1} x_{2}^{e_{2} - 1} x_{3}^{e_{3} - 1} + d x_{1}^{f_{1} - 1} x_{2}^{f_{2} - 1} x_{3}^{f_{3} - 1}

$h(\mathbf{x})=c x_1^{e_1-1}x_2^{e_2-1}x_3^{e_3-1}+d x_1^{f_1-1}x_2^{f_2-1}x_3^{f_3-1}$

e_{i}, f_{i}

$e_i, f_i$

i

$i$

A (θ) = \log (c \frac{Γ (e_{1})}{θ_{1}^{e_{1}}} \frac{Γ (e_{2})}{θ_{2}^{e_{2}}} \frac{Γ (e_{3})}{θ_{3}^{e_{3}}} + d \frac{Γ (f_{1})}{θ_{1}^{f_{1}}} \frac{Γ (f_{2})}{θ_{2}^{f_{2}}} \frac{Γ (f_{3})}{θ_{3}^{f_{3}}}) .

$A(\mathbf\theta)=\log\left(c\frac{\Gamma(e_1)}{\theta_1^{e_1}}\frac{\Gamma(e_2)}{\theta_2^{e_2}}\frac{\Gamma(e_3)}{\theta_3^{e_3}}+d\frac{\Gamma(f_1)}{\theta_1^{f_1}}\frac{\Gamma(f_2)}{\theta_2^{f_2}}\frac{\Gamma(f_3)}{\theta_3^{f_3}}\right).$

Sekarang, untuk memudahkan, mari kita mendefinisikan dan

c^{'} = c Γ (e_{1}) Γ (e_{2}) Γ (e_{2}) θ_{1}^{f_{1}} θ_{2}^{f_{2}} θ_{3}^{f_{3}}

$c'=c\Gamma(e_1)\Gamma(e_2)\Gamma(e_2)\theta_1^{f_1}\theta_2^{f_2}\theta_3^{f_3}$

d^{'} = d Γ (f_{1}) Γ (f_{2}) Γ (f_{2}) θ_{1}^{e_{1}} θ_{2}^{e_{2}} θ_{3}^{e_{3}}

$d'=d\Gamma(f_1)\Gamma(f_2)\Gamma(f_2)\theta_1^{e_1}\theta_2^{e_2}\theta_3^{e_3}$

Sekarang, karena rata-rata distribusi kami adalah gradien , kami memiliki , , dan . Dan karena kovarians adalah Hessian dari , kami memiliki dan (istilah lain dari matriks kovarians yang diperoleh dengan mengubah subskrip dengan cara yang jelas). $A$ $\mu_X=\frac{e_1c'+f_1d'}{\theta_1(c'+d')}$ $\mu_Y=\frac{e_2c'+f_2d'}{\theta_2(c'+d')}$ $\mu_Z=\frac{e_3c'+f_3d'}{\theta_3(c'+d')}$ $A$

σ_{X}^{2} = \frac{(e_{1} c^{'} + f_{1} d^{'}) (c^{'} + d^{'}) + (e_{1} - f_{1})^{2} c^{'} d^{'}}{θ_{1}^{2} (c^{'} + d^{'})^{2}}

$\sigma_X^2=\frac{(e_1c'+f_1d')(c'+d')+(e_1-f_1)^2c'd'}{\theta_1^2(c'+d')^2}$

Cov (X, Y) = \frac{(e_{1} - f_{1}) (e_{2} - f_{2}) c^{'} d^{'}}{θ_{1} θ_{2} (c^{'} + d^{'})}

$\text{Cov}(X,Y)=\frac{(e_1-f_1)(e_2-f_2)c'd'}{\theta_1\theta_2(c'+d')}$

Kelihatannya ini tidak cukup fleksibel untuk mendapatkan matriks kovarian. Saya perlu mencoba istilah lain dalam polinomial (tapi saya curiga itu juga mungkin tidak berfungsi (jelas saya perlu memikirkan ini lebih lanjut)).

— Deinst
sumber

Empat parameter untuk lima kendala ...?

(θ_{1}, θ_{2}, θ_{3}, c)

$(\theta_1,\theta_2,\theta_3,c)$

— Xi'an

@xian Ada 6 eksponen dan juga.

e_{i}

$e_i$

f_{i}

$f_i$

— deinst

Saya sedikit (?) Bingung: Anda tidak memproses eksponen sebagai parameter dari keluarga eksponensial. Tapi memang Anda bisa mengubah kekuatan itu seperti yang Anda inginkan agar persamaan 9 momen benar.

— Xi'an

@ Xi'an Anda benar, saya tidak memprosesnya sebagai parameter dari keluarga eksponensial. Melakukan hal itu akan membuat keluarga tidak lagi menjadi keluarga alami, dan termasuk mereka akan hanya mengacaukan aljabar untuk mengubah persamaan momen (yang cukup kacau untuk memulai dengan).

— deinst