Apa alasan fungsi kovarian Matérn?

Fungsi kovarians Matérn umumnya digunakan sebagai fungsi kernel dalam Proses Gaussian. Ini didefinisikan seperti ini

$${\displaystyle C_{\nu }(d)=\sigma ^{2}{\frac {2^{1-\nu }}{\Gamma (\nu )}}{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}^{\nu }K_{\nu }{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}}$$

di mana $d$ adalah fungsi jarak (seperti jarak Euclidean), $\Gamma$ adalah fungsi gamma, $K_\nu$ adalah fungsi Bessel yang dimodifikasi dari jenis kedua, $\rho$ dan $\nu$ adalah parameter positif. $\nu$ banyak waktu yang dipilih untuk menjadi $\frac{3}{2}$ atau$\frac{5}{2}$ dalam praktek.

Banyak waktu kernel ini bekerja lebih baik daripada kernel Gaussian standar karena 'kurang lancar', tetapi kecuali itu, apakah ada alasan lain mengapa seseorang lebih memilih kernel ini? Beberapa intuisi geometris tentang bagaimana perilakunya, atau penjelasan tentang rumus yang tampaknya samar akan sangat dihargai.

Selain jawaban bagus @DahnJahn, saya pikir saya akan mencoba untuk mengatakan sedikit lebih banyak tentang dari mana fungsi Bessel dan gamma berasal. Satu titik awal untuk tiba di fungsi kovarian adalah teorema Bochner.

Teorema (Bochner) Fungsi stasioner kontinu adalah pasti positif jika dan hanya jika ˜ k adalah transformasi Fourier dari ukuran positif hingga: ˜ k ( t ) = ∫ R e - i ω t d µ ( ω$k(x, y) = \widetilde{k}(|x − y|)$$\widetilde{k}$

$$\widetilde{k}(t) = \int_{\mathbb{R}} e^{−iωt}dµ(ω)$$

Dari sini Anda dapat menyimpulkan bahwa matriks kovarians Matérn diturunkan sebagai transformasi Fourier dari (Sumber). Itu semua baik tetapi tidak benar-benar memberi tahu kami bagaimana Anda sampai pada ukuran positif terbatas yang diberikan oleh$\frac{1}{(1+\omega^2)^p}$ . Ya, ini adalah kerapatan spektral (daya) dari proses stokastikf(x).$\frac{1}{(1+\omega^2)^p}$$f(x)$

Proses stokastik yang mana? Ini diketahui bahwa proses acak pada dengan fungsi kovarians Matern adalah solusi untuk persamaan diferensial parsial stokastik (SPDE) ( κ 2 - Δ ) α / 2 X ( s ) = φ W ( s ) , di mana W ( s ) adalah Gaussian white noise dengan varians unit, Δ = d ∑ i = 1 ∂ $\mathbb{R}^d$

$$(κ^2 − ∆)^{α/2} X(s) = φW(s),$$ $W(s)$ adalah operator Laplace, danα=ν+d/2(saya pikir ini ada diCressie dan Wikle). $$\Delta = \sum_{i=1}^d \frac{\partial^2}{\partial x^2_i}$$ $α =ν + d/2$

Mengapa memilih SPDE / proses stokastik tertentu ini? Asal adalah statistik spasial di mana itu berpendapat yang paling sederhana dan kovariansi alami yang bekerja dengan baik dalam :$\mathbb{R}^2$

Fungsi korelasi eksponensial adalah korelasi alami dalam satu dimensi, karena sesuai dengan proses Markov. Dalam dua dimensi ini tidak lagi demikian, meskipun eksponensial adalah fungsi korelasi umum dalam pekerjaan geostatistik. Whittle (1954) menentukan korelasi yang sesuai dengan persamaan diferensial stokastik tipe Laplace:

di manaεadalah white noise. Proses kisi diskrit yang sesuai adalah autoregresi orde kedua. (Sumber)

$$\left[ \left(\frac{\partial}{\partial t_1}\right)^2 + \left(\frac{\partial}{\partial t_2}\right)^2 - \kappa^2 \right] X(t_1, t_2) = \epsilon(t_1 , t_2)$$ $\epsilon$

Keluarga proses yang termasuk dalam SDE yang terkait dengan persamaan Matern termasuk model Ornstein-Uhlenbeck dari kecepatan partikel yang mengalami gerakan Brown. Lebih umum, Anda dapat menentukan spektrum daya untuk keluarga A R ( p ) proses untuk setiap bilangan bulat p yang juga memiliki keluarga kovarians Matern. Ini ada dalam lampiran Rasmussen dan Williams.$AR(1)$$AR(p)$$p$

Fungsi kovarians ini tidak terkait dengan proses cluster Matérn.

Referensi

Cressie, Noel, dan Christopher K. Wikle. Statistik untuk data spatio-temporal. John Wiley & Sons, 2015.

Guttorp, Peter, dan Tilmann Gneiting. "Studi dalam sejarah probabilitas dan statistik XLIX Pada keluarga korelasi Matern." Biometrika 93.4 (2006): 989-995.

Rasmussen, CE dan Williams, Proses Gaussian CKI untuk Pembelajaran Mesin. MIT Press, 2006.

Saya tidak tahu, tetapi saya menemukan pertanyaan ini sangat menarik dan inilah yang saya dapatkan setelah sedikit membacanya.

Untuk nilai tertentu , fungsi kovarians Matérn dapat dinyatakan sebagai produk eksponensial dan polinomial. Misalnya untuk ν = 5 / 2 : C 5 / 2 ( d ) $\nu$$\nu = 5/2$ Maka tidak terlalu mengejutkan bahwa, sepertiν→∞,Cνbenar-benar bertemu denganGaussian RBF: limν→∞Cν(d)=σ2

$$C_{5/2}(d) = \sigma^2\left(1 + \frac{\sqrt 5 d}{\rho} + \frac{5d^2}{3\rho^2} \right) \exp \left(- \frac{\sqrt 5 d}{\rho}\right)$$ $\nu \to \infty$$C_\nu$ Untukν=1/2, fungsi kovarians Matern memberikan mutlak eksponensial kernel C1/2(d)=σ2 $$\lim_{\nu \to \infty} C_\nu(d) = \sigma^2 \exp \left( -\frac{d^2}{2\rho^2}\right)$$ $\nu = 1/2$ $$C_{1/2}(d) = \sigma^2 \exp\left( -\frac{d}{\rho} \right)$$

Selanjutnya, proses Gaussian dengan fungsi kovarian Matérn dengan parameter adalah$\nu$$\lceil \nu \rceil -1$

Ini ditunjukkan dengan sangat baik pada gambar yang diambil dari Rasmussen & Williams (2006)

Dalam Interpolasi Data Spasial , Stein (yang sebenarnya mengusulkan nama fungsi kovarians Matérn), berpendapat (hal 30) bahwa diferensiasi tak terbatas dari fungsi kovarians Gaussian menghasilkan hasil yang tidak realistis untuk proses fisik, karena hanya mengamati sebagian kecil dari ruang / waktu seharusnya, secara teori, menghasilkan seluruh fungsi. Dia kemudian mengusulkan versi Matérn sebagai generalisasi yang mampu menyamakan proses fisik dengan lebih realistis.

Ringkasan

Fungsi kovarians Matérn dapat dilihat sebagai a $\nu$

$\nu$ mengapa semua itu benar.