Perbanyakan kesalahan menggunakan seri Taylor orde kedua

Saya membaca sebuah teks, "Statistik Matematika dan Analisis Data" oleh John Rice. Kami prihatin dengan mendekati nilai yang diharapkan dan varians dari variabel acak . Kami dapat menghitung nilai yang diharapkan dan varians dari variabel acak dan kami tahu hubungan . Jadi, mungkin untuk memperkirakan nilai dan varian menggunakan ekspansi seri Taylor dari tentang . $Y$ $X$ $Y = g(X)$ $Y$ $g$ $\mu_X$

Di halaman 162, ia mencantumkan 3 persamaan.

Nilai yang diharapkan dari menggunakan ekspansi seri Taylor Orde-Pertama. Itu adalah: . Ini disebut nanti dalam pertanyaan saya sebagai . $Y$ $\mu_Y \approx g(\mu_X)$ $E(Y_1)$
Varian menggunakan ekspansi seri Taylor Orde-Pertama. Ini adalah: . Ini kemudian disebut dalam pertanyaan saya sebagai . $Y$ $\sigma_Y^2 \approx \sigma_X^2 (g'(\mu_X))^2$ $Var(Y_1)$
Nilai yang diharapkan dari menggunakan ekspansi seri 2nd-Order Taylor. Ini adalah . Ini disebut nanti dalam pertanyaan saya sebagai . $Y$ $\mu_Y \approx g(\mu_X) + \frac12 \sigma_X^2 g''(\mu_X)$ $E(Y_2)$

Perhatikan bahwa ada dua ekspresi berbeda untuk $Y$ karena kami menggunakan dua pesanan berbeda dalam ekspansi seri Taylor. Persamaan 1 dan 2 merujuk ke $Y_1 = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X)$ . Persamaan 3 merujuk pada $Y_2 = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X) + \frac12 (X-\mu_X)^2 g''(\mu_X)$ .

Perhatikan bahwa secara khusus persamaan untuk $Var(Y_2)$ tidak diberikan. Kemudian, penulis tampaknya menggunakan persamaan untuk varian $Y_1$ (Persamaan 2), padahal sebenarnya ia mengacu pada nilai yang diharapkan dari $Y_2$ (Persamaan 3). Ini sepertinya menyiratkan $Var(Y_2) = Var(Y_1)$ .

Saya telah mencoba menghitung dengan tangan , dan saya mendapatkan ekspresi yang agak rumit. Ini pekerjaan saya (saya berhenti karena pada akhirnya saya mendapatkan istilah dalam harapan): $Var(Y_2)$ $X^3$

\begin{aligned} V a r (Y_{2}) & = E [(g (μ_{X}) + (X - μ_{X}) a + \frac{1}{2} (X - μ_{X})^{2} b - g (μ_{X}) - \frac{1}{2} σ_{X}^{2} b)^{2}] \\ = E [((X - μ_{X}) a + {(\frac{1}{2} (X - μ_{X})^{2} - \frac{1}{2} σ_{X}^{2}) b)}^{2}] \\ = E [(c a + {(\frac{1}{2} c^{2} - \frac{1}{2} σ_{X}^{2}) b)}^{2}] \\ = E [c^{2} a^{2} + c a (c^{2} - σ_{X}^{2}) b + \frac{1}{4} (c^{2} - σ_{X}^{2})^{2} b^{2}] \\ = E [(X^{2} - 2 X μ_{X} + μ_{X}^{2}) a^{2} + (X - μ_{X}) a ((X^{2} - 2 X μ_{X} + μ_{X}^{2}) - σ_{X}^{2}) b \\ + \frac{1}{4} ((X^{2} - 2 X μ_{X} + μ_{X}^{2}) - σ_{X}^{2})^{2} b^{2}] \end{aligned}

$\begin{aligned} Var(Y_2) &= E[( g(\mu_X) + (X-\mu_X)a + \frac12 (X-\mu_X)^2 b - g(\mu_X) - \frac12 \sigma_X^2 b )^2] \\ &= E\left[((X-\mu_X)a + \left(\frac12 (X-\mu_X)^2 - \frac12 \sigma_X^2)b\right)^2\right] \\ &= E\left[(ca + \left(\frac12 c^2 - \frac12 \sigma_X^2)b\right)^2\right] \\ & = E[c^2 a^2 + ca(c^2 - \sigma_X^2)b + \frac14(c^2-\sigma_X^2)^2 b^2] \\ & = E[(X^2 - 2X \mu_X + \mu_X^2)a^2 + (X-\mu_X)a((X^2 - 2X\mu_X + \mu_X^2) - \sigma_X^2)b \\ & + \frac14((X^2 - 2X\mu_X + \mu_X^2)-\sigma_X^2)^2 b^2] \end{aligned}$

Perhatikan bahwa dalam persamaan di atas, , , dan . Apa itu ? $a = g'(\mu_X)$ $b = g''(\mu_X)$ $c = X-\mu_X$ $Var(Y_2)$

Terima kasih.

self-study mathematical-statistics error

— merek
sumber

Mengapa Anda berhenti di ? Karena pendekatan orde kedua adalah fungsi kuadrat , variansnya biasanya akan melibatkan momen hingga . Momen ketiga mungkin nol, tetapi momen keempat pasti akan muncul dan tidak dibatalkan oleh apa pun.

X^{3}

$X^3$

X

$X$

X

$X$

2 \cdot 2 = 4

$2 \cdot 2 = 4$

— whuber

Dengan asumsi , kita dapat memperoleh varians perkiraan menggunakan ekspansi Taylor orde kedua dari tentang sebagai berikut: $Y=g(X)$ $Y$ $g(X)$ $\mu_X=\mathbf{E}[X]$

\begin{array}{rcl} V a r [Y] & = & V a r [g (X)] \\ \approx & V a r [g (μ_{X}) + g^{'} (μ_{X}) (X - μ_{X}) + \frac{1}{2} g^{″} (μ_{X}) (X - μ_{X})^{2}] \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} + \frac{1}{4} (g^{″} (μ_{X}))^{2} V a r [(X - μ_{X})^{2}] \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) C o v [X - μ_{X}, (X - μ_{X})^{2}] \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} + \frac{1}{4} (g^{″} (μ_{X}))^{2} E [(X - μ_{X})^{4} - σ_{X}^{4}] \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) (E (X^{3}) - 3 μ_{X} (σ_{X}^{2} + μ_{X}^{2}) + 2 μ_{X}^{3}) \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} \\ + \frac{1}{4} (g^{″} (μ_{X}))^{2} (E [X^{4}] - 4 μ_{X} E [X^{3}] + 6 μ_{X}^{2} (σ_{X}^{2} + μ_{X}^{2}) - 3 μ_{X}^{4} - σ_{X}^{4}) \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) (E (X^{3}) - 3 μ_{X} (σ_{X}^{2} + μ_{X}^{2}) + 2 μ_{X}^{3}) \end{array}

$\begin{eqnarray*} \mathbf{Var}[Y] &=& \mathbf{Var}[g(X)]\\ &\approx& \mathbf{Var}[g(\mu_X)+g'(\mu_X)(X-\mu_X)+\frac{1}{2}g''(\mu_X)(X-\mu_X)^2]\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}+\frac{1}{4}(g''(\mu_X))^2\mathbf{Var}[(X-\mu_X)^2]\\ & & +g'(\mu_X)g''(\mu_X)\mathbf{Cov}[X-\mu_X,(X-\mu_X)^2]\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}+\frac{1}{4}(g''(\mu_X))^2\mathbf{E}[(X-\mu_X)^4-\sigma_{X}^{4}]\\ & & +g'(\mu_X)g''(\mu_X)\left(\mathbf{E}(X^3)-3\mu_X(\sigma_{X}^{2}+\mu_{X}^{2})+2\mu_{X}^{3}\right)\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}\\ & & +\frac{1}{4}(g''(\mu_X))^2\left(\mathbf{E}[X^4]-4\mu_X\mathbf{E}[X^3]+6\mu_{X}^{2}(\sigma_{X}^{2}+\mu_{X}^{2})-3\mu_{X}^{4}-\sigma_{X}^{4}\right)\\ & & +g'(\mu_X)g''(\mu_X)\left(\mathbf{E}(X^3)-3\mu_X(\sigma_{X}^{2}+\mu_{X}^{2})+2\mu_{X}^{3}\right)\\ \end{eqnarray*}$

Seperti @whuber tunjukkan dalam komentar, ini dapat dibersihkan sedikit dengan menggunakan momen pusat ketiga dan keempat . Momen sentral didefinisikan sebagai . Perhatikan bahwa . Dengan menggunakan notasi baru ini, kita dapat $X$ $\mu_k=\mathbf{E}[(X-\mu_X)^k]$ $\sigma_{X}^{2}=\mu_2$

V a r [Y] \approx (g^{'} (μ_{X}))^{2} σ_{X}^{2} + g^{'} (μ_{X}) g^{″} (μ_{X}) μ_{3} + \frac{1}{4} (g^{″} (μ_{X}))^{2} (μ_{4} - σ_{X}^{4})

$\mathbf{Var}[Y]\approx(g'(\mu_X))^2\sigma_{X}^{2}+g'(\mu_X)g''(\mu_X)\mu_3+\frac{1}{4}(g''(\mu_X))^2(\mu_4-\sigma_{X}^{4})$

— dianggap normal
sumber

Itu pendekatan yang tepat, tetapi tidakkah Anda lupa untuk memasukkan kovarians antara dan ?

X - μ_{X}

$X-\mu_X$

(X - μ_{X})^{2}

$(X-\mu_X)^2$

— whuber

@whuber Ya saya lakukan. Terima kasih telah menunjukkannya. Saya akan segera mengedit ini.

— Diasumsikan normal

Anda dapat menyelamatkan diri Anda dari beberapa masalah dengan menulis jawaban dalam hal momen sentral kedua, ketiga, dan keempat , , , dan . Anda harus memperoleh .

σ^{2}

$\sigma^2$

μ_{3}

$\mu_3$

μ_{4}

$\mu_4$

σ^{2} g^{'} (μ)^{2} + μ_{3} g^{'} (μ) g^{″} (μ) + \frac{1}{4} (μ_{4} - σ^{4}) g^{″} (μ)^{2}

$\sigma^2 g'(\mu )^2 + \mu_3 g'(\mu ) g''(\mu )+\frac{1}{4} \left(\mu_4-\sigma ^4\right) g''(\mu )^2$

— whuber

@jrand - Permintaan maaf saya. Saya tidak menyadari Anda memiliki ini di pos asli Anda. Saya tidak menghapus posting saya, karena butuh beberapa saat untuk mengeset.

— Diasumsikan normal

@ Max, whuber: Terima kasih atas jawaban dan penjelasannya.

— jrand