The Halmos-Savage Teorema mengatakan bahwa untuk model statistik didominasi $(\Omega, \mathscr A, \mathscr P)$ statistik $T: (\Omega, \mathscr A, \mathscr P)\to(\Omega', \mathscr A')$ adalah cukup jika (dan hanya jika) untuk semua $\{P \in \mathscr{P} \}$ ada $T$ versi yang dapat diukur dari turunan Radon Nikodym $\frac{dP}{dP*}$ mana$dP*$adalah ukuran istimewa sehingga$P*=\sum_{i=1}^\infty P_i c_i$untuk$c_i >0, \sum _{i=1}^\infty c_i =1$dan$P_i \in \mathscr P$.

Saya telah mencoba memahami secara intuisi mengapa teorema itu benar tetapi saya tidak berhasil, jadi pertanyaan saya adalah apakah ada cara intuitif untuk memahami teorema itu.

Lemma Teknis

Saya tidak yakin seberapa intuitifnya ini, tetapi hasil teknis utama yang mendasari pernyataan Anda tentang Teorema Halmos-Savage adalah sebagai berikut:

Kata pengantar singkat. Biarkan $\mu$ menjadi ukuran $\sigma$ -finite on $(S, \mathcal{A})$ . Misalkan $\aleph$ adalah kumpulan tindakan pada $(S, \mathcal{A})$ sedemikian rupa sehingga untuk setiap $\nu \in \aleph$ , $\nu \ll \mu$ . Lalu ada urutan angka non-negatif $\{c_i\}_{i=1}^\infty$ dan urutan elemen $\aleph$ , $\{\nu_i\}_{i=1}^\infty$sehingga $\sum_{i=1}^\infty c_i = 1$ dan $\nu \ll \sum_{i=1}^\infty c_i \nu_i$ untuk setiap $\nu \in \aleph$ .

Ini diambil kata demi kata dari Teorema A.78 dalam Teori Statistik Schervish (1995) . Di dalamnya ia menghubungkannya dengan Pengujian Statistik Hipotesis Lehmann (1986) ( tautan ke edisi ketiga ), di mana hasilnya dikaitkan dengan Halmos dan Savage sendiri (lihat Lemma 7). Referensi bagus lainnya adalah Statistik Matematika Shao (edisi kedua, 2003) , di mana hasil yang relevan adalah Lemma 2.1 dan Teorema 2.2.

Lemma di atas menyatakan bahwa jika Anda mulai dengan keluarga ukuran yang didominasi oleh ukuran $\sigma$ -finit, maka sebenarnya Anda dapat mengganti ukuran yang mendominasi dengan kombinasi ukuran cembung yang dapat dihitung dari dalam keluarga. Schervish menulis sebelum menyatakan Teorema A.78,

"Dalam aplikasi statistik, kita akan sering memiliki kelas ukuran, yang masing-masing benar-benar berkelanjutan sehubungan dengan ukuran $\sigma$ finite tunggal . Akan lebih baik jika ukuran dominasi tunggal berada di kelas asli atau dapat dibangun dari kelas. Teorema berikut membahas masalah ini. "

Contoh Beton

Misalkan kita melakukan pengukuran kuantitas $X$ yang kami yakini didistribusikan secara seragam pada interval $[0, \theta]$ untuk beberapa yang tidak diketahui $\theta > 0$ . Dalam masalah statistik ini, kami secara implisit mempertimbangkan himpunan $\mathcal{P}$ dari pengukuran probabilitas Borel pada $\mathbb{R}$ terdiri dari distribusi seragam pada semua interval bentuk $[0, \theta]$ . Yaitu, jika $\lambda$ menunjukkan ukuran Lebesgue dan, untuk $\theta > 0$ , $P_\theta$ menunjukkan $\operatorname{Uniform}([0, \theta])$ distribusi (yaitu,

$$P_\theta(A) = \frac{1}{\theta} \lambda(A \cap [0, \theta]) = \int_A \frac{1}{\theta} \mathbf{1}_{[0, \theta]}(x) \, dx$$ untuk setiap Borel$A \subseteq \mathbb{R}$ ), maka kita cukup memiliki $$\mathcal{P} = \{P_\theta : \theta > 0\}.$$ Ini adalah set distribusi calon pengukuran kami$X$ .

Keluarga $\mathcal{P}$ jelas didominasi oleh ukuran Lebesgue $\lambda$ (yang adalah $\sigma$ -finite), sehingga lemma di atas (dengan $\aleph = \mathcal{P}$ ) menjamin adanya urutan $\{c_i\}_{i=1}^\infty$ dari angka-angka non-negatif yang menjumlahkan $1$ dan a urutan $\{Q_i\}_{i=1}^\infty$ distribusi seragam dalam $\mathcal{P}$ sehingga

$$P_\theta \ll \sum_{i=1}^\infty c_i Q_i$$ untuk setiap $\theta > 0$ . Dalam contoh ini, kita dapat membuat urutan seperti itu secara eksplisit!

Pertama, misalkan $(\theta_i)_{i=1}^\infty$ menjadi enumerasi bilangan rasional positif ( ini dapat dilakukan secara eksplisit ), dan misalkan $Q_i = P_{\theta_i}$ untuk setiap $i$ . Selanjutnya, mari $c_i = 2^{-i}$ , sehingga $\sum_{i=1}^\infty c_i = 1$ . Saya mengklaim bahwa kombinasi dari $\{c_i\}_{i=1}^\infty$ dan $\{Q_i\}_{i=1}^\infty$ berfungsi.

Untuk melihat ini, memperbaiki $\theta > 0$ dan membiarkan $A$ menjadi bagian Borel dari $\mathbb{R}$ sehingga $\sum_{i=1}^\infty c_i Q_i(A) = 0$ . Kita perlu menunjukkan bahwa $P_\theta(A) = 0$ . Sejak $\sum_{i=1}^\infty c_i Q_i(A) = 0$ dan masing-masing peubah adalah non-negatif, maka bahwa $c_i Q_i(A) = 0$ untuk setiap$i$ . Selain itu, karena setiap$c_i$ positif, maka$Q_i(A) = 0$ untuk masing-masing$i$ . Yaitu, untuk semua$i$ kita memiliki

$$Q_i(A) = P_{\theta_i}(A) = \frac{1}{\theta_i} \lambda(A \cap [0, \theta_i]) = 0.$$ Karena setiap$\theta_i$positif, berarti$\lambda(A \cap [0, \theta_i]) = 0$untuk setiap$i$.

Sekarang pilih urutan $\{\theta_{i_k}\}_{k=1}^\infty$ dari $\{\theta_i\}_{i=1}^\infty$ yang konvergen ke $\theta$ dari atas (ini dapat dilakukan karena $\mathbb{Q}$ padat di $\mathbb{R}$ ). Kemudian $A \cap [0, \theta_{\theta_{i_k}}] \downarrow A \cap [0, \theta]$ sebagai $k \to \infty$ , jadi dengan kesinambungan ukuran kita menyimpulkan bahwa

$$\lambda(A \cap [0, \theta]) = \lim_{k \to \infty} \lambda(A \cap [0, \theta_{i_k}]) = 0,$$ dan$P_\theta(A) = 0$ . Ini membuktikan klaim.

Dengan demikian, dalam contoh ini kami dapat secara eksplisit membangun kombinasi cembung dari ukuran probabilitas dari keluarga dominan kami yang masih mendominasi seluruh keluarga. Lemma di atas menjamin bahwa ini dapat dilakukan untuk setiap keluarga yang didominasi (setidaknya selama ukuran yang mendominasi adalah $\sigma$ finite).

Teorema Halmos-Savage

Jadi sekarang ke Teorema Halmos-Savage (yang saya akan menggunakan notasi sedikit berbeda daripada dalam pertanyaan karena preferensi pribadi). Mengingat Teorema Halmos-Savage, teorisasi faktorisasi Fisher-Neyman hanyalah satu aplikasi dari lemma Doob-Dynkin dan aturan rantai untuk turunan Radon-Nikodym pergi!

Teorema Halmos-Savage. Misalkan $(\mathcal{X}, \mathcal{B}, \mathcal{P})$ menjadi model statistik yang dominan (artinya $\mathcal{P}$ adalah seperangkat ukuran probabilitas pada $\mathcal{B}$ dan ada ukuran $\sigma$ -finit $\mu$ pada $\mathcal{B}$ sedemikian sehingga $P \ll \mu$ untuk semua $P \in \mathcal{P}$ ). Misalkan $T : (\mathcal{X}, \mathcal{B}) \to (\mathcal{T}, \mathcal{C})$ menjadi fungsi yang dapat diukur, di mana $(T, \mathcal{C})$adalah ruang Borel standar. Maka yang berikut ini setara:

1. $T$ cukup untuk$\mathcal{P}$ (artinya ada kemungkinan kernel$r : \mathcal{B} \times \mathcal{T} \to [0, 1]$ sehingga$r(B, T)$ adalah versi$P(B \mid T)$ untuk semua$B \in \mathcal{B}$ dan$P \in \mathcal{P}$ ).
2. Ada ada urutan $\{c_i\}_{i=1}^\infty$ angka non-negatif sehingga $\sum_{i=1}^\infty c_i = 1$ dan urutan $\{P_i\}_{i=1}^\infty$ langkah probabilitas di $\mathcal{P}$ sehingga $P \ll P^*$ untuk semua $P \in \mathcal{P}$ , di mana $P^* = \sum_{i=1}^\infty c_i P_i$, dan untuk setiap $P \in \mathcal{P}$ terdapat versi $T$ terukur $dP/dP^*$ .

Bukti. Oleh lemma di atas, kita dapat segera ganti $\mu$ oleh $P^* = \sum_{i=1}^\infty c_i P_i$ untuk beberapa urutan $\{c_i\}_{i=1}^\infty$ angka non-negatif sehingga $\sum_{i=1}^\infty c_i = 1$ dan urutan $\{P_i\}_{i=1}^\infty$ langkah probabilitas di $\mathcal{P}$ .

(1. menyiratkan 2.) Misalkan $T$ sudah cukup. Maka kita harus menunjukkan bahwa ada $T$ versi -measurable dari $dP/dP^*$ untuk semua $P \in \mathcal{P}$ . Misalkan $r$ menjadi kernel probabilitas dalam pernyataan teorema. Untuk setiap $A \in \sigma(T)$ dan $B \in \mathcal{B}$ kita memiliki

$$\begin{aligned} P^*(A \cap B) &= \sum_{i=1}^\infty c_i P_i(A \cap B) \\ &= \sum_{i=1}^\infty c_i \int_A P_i(B \mid T) \, dP_i \\ &= \sum_{i=1}^\infty c_i \int_A r(B, T) \, dP_i \\ &= \int_A r(B, T) \, dP^*. \end{aligned}$$ Dengan demikian$r(B, T)$adalah versi dari$P^*(B \mid T)$untuk semua$B \in \mathcal{B}$.

$P \in \mathcal{P}$$f_P$$dP/dP^*$$(\mathcal{X}, \sigma(T))$$f_P$$T$$B \in \mathcal{B}$$P \in \mathcal{P}$

$$\begin{aligned} P(B) &= \int_{\mathcal{X}} P(B \mid T) \, dP \\ &= \int_{\mathcal{X}} r(B, T) \, dP \\ &= \int_{\mathcal{X}} r(B, T) f_P \, dP^* \\ &= \int_{\mathcal{X}} P^*(B \mid T) f_P \, dP^* \\ &= \int_{\mathcal{X}} E_{P^*}[\mathbf{1}_B f_P \mid T] \, dP^* \\ &= \int_B f_P \, dP^*. \end{aligned}$$ $f_P$$T$$dP/dP^*$$(\mathcal{X}, \mathcal{B})$

$T$$f_P$$dP/dP^*$$P \in \mathcal{P}$$B \in \mathcal{B}$$r(B, t)$$P^*(B \mid T = t)$$r(B, t)$$r(B, T)$$P^*(B \mid T)$$(T, \mathcal{C})$$r$$r(B, T)$$P(B \mid T)$$P \in \mathcal{P}$$B \in \mathcal{B}$$A \in \sigma(T)$$B \in \mathcal{B}$$P \in \mathcal{P}$

$$\begin{aligned} P(A \cap B) &= \int_A \mathbf{1}_B f_P \, dP^* \\ &= \int_A E_{P^*}[\mathbf{1}_B f_P \mid T] \, dP^* \\ &= \int_A P^*(B \mid T) f_P \, dP^* \\ &= \int_A r(B, T) f_P \, dP^* \\ &= \int_A r(B, T) \, dP. \end{aligned}$$ $r(B, T)$$P(B \mid T)$$P \in \mathcal{P}$$B \in \mathcal{B}$

Ringkasan. Hasil teknis penting yang mendasari teorema Halmos-Savage seperti yang disajikan di sini adalah fakta bahwa keluarga yang didominasi ukuran probabilitas sebenarnya didominasi oleh kombinasi cembung yang tak terhitung dari ukuran probabilitas dari keluarga itu. Mengingat hasil itu, sisa teorema Halmos-Savage sebagian besar hanya manipulasi dengan sifat dasar turunan Radon-Nikodym dan harapan bersyarat.