Proses Gaussian: fungsi aproksimasi fungsi

Saya belajar tentang Proses Gaussian dan hanya mendengar sedikit demi sedikit. Sangat menghargai komentar dan jawaban.

Untuk setiap set data, apakah benar bahwa perkiraan fungsi Proses Gaussian akan memberikan nol atau kesalahan pemasangan yang dapat diabaikan pada titik data? Di tempat lain saya juga mendengar bahwa Proses Gaussian sangat baik untuk data yang berisik. Ini tampaknya bertentangan dengan kesalahan pemasangan yang rendah untuk data yang diamati?

Selain itu, semakin jauh dari titik data tampaknya ada lebih banyak ketidakpastian (kovarians yang lebih besar). Jika demikian, apakah berperilaku seperti model lokal (RBF dll)?

Akhirnya, adakah properti perkiraan universal?

gaussian-process

— oalah
sumber

$D = (X, \mathbf{y}) = \{\mathbf{x}_i, y_i = y(x_i)\}_{i = 1}^N$ $k(\mathbf{x}_1, \mathbf{x}_2)$ $\mathbf{x}$

m (x) = k K^{- 1} y

$m(\mathbf{x}) = \mathbf{k} K^{-1} \mathbf{y}$

V (x) = k (x, x) - k K^{- 1} k^{T} .

$V(\mathbf{x}) = k(\mathbf{x}, \mathbf{x}) - \mathbf{k} K^{-1} \mathbf{k}^T.$

k = {k (x, x_{1}), \dots, k (x, x_{N})}

$\mathbf{k} = \{k(\mathbf{x}, \mathbf{x}_1), \ldots, k(\mathbf{x}, \mathbf{x}_N)\}$

K = {k (x_{i}, x_{j})}_{i, j = 1}^{N}

$K = \{k(\mathbf{x}_i, \mathbf{x}_j)\}_{i, j = 1}^N$

m (X) = K K^{- 1} y = y .

$m(X) = K K^{-1} \mathbf{y} = \mathbf{y}.$

K + σ I

$K + \sigma I$

K

$K$

m (X) = K (K + σ I)^{- 1} y \neq y .

$m(X) = K (K + \sigma I)^{-1} \mathbf{y} \neq \mathbf{y}.$

$\sigma$ $\sigma = 0$ $\sigma$

$k$ $O(n)$ $n$

— Alexey Zaytsev
sumber