Regresi Proses Gaussian Tambahan

Saya ingin menerapkan regresi proses gaussian tambahan menggunakan jendela geser di atas titik data yang tiba satu per satu melalui aliran.

Biarkan menunjukkan dimensi ruang input. Jadi, setiap titik data memiliki jumlah elemen.$d$$x_i$$d$

Biarkan menjadi ukuran jendela geser.$n$

Untuk membuat prediksi, saya perlu menghitung kebalikan dari matriks gram , di mana dan k adalah kernel eksponensial kuadrat.$K$$K_{ij} = k(x_i, x_j)$

Untuk menghindari K menjadi lebih besar dengan setiap titik data baru, saya pikir saya bisa menghapus titik data tertua sebelum menambahkan titik baru dan dengan cara ini saya mencegah gram tumbuh. Sebagai contoh, misalkan mana adalah kovarians bobot dan adalah fungsi pemetaan implisit yang tersirat oleh kernel eksponensial kuadrat.$K = \phi(X)^{T}\Sigma\phi(X)$$\Sigma$$\phi$

Sekarang mari ] danmanaadalaholehmatriks matriks.$X=[x_{t-n+1}|x_{t-n+2}|...|x_{t}$$X_{new}=[x_{t-n+2}|...|x_{t}|x_{t+1}]$$x$$d$$1$

Aku butuh cara yang efektif untuk menemukan berpotensi menggunakan . Ini tidak terlihat seperti kebalikan dari masalah matriks peringkat-1 yang diperbarui yang dapat secara efisien ditangani dengan rumus Sherman-Morrison.$K_{new}^{-1}$$K$

Ada beberapa algoritma rekursif untuk melakukan ini. Anda harus melihat pada algoritma KURS (recursive least square), dan algoritma GP online terkait.

• Van Vaerenbergh, S., Santamaria, I., Liu, W., dan Principe, JC (2010). Kernel kuadrat rekursif dengan anggaran terbatas . Dalam Acoustics Speech and Signal Processing (ICASSP), Konferensi Internasional IEEE 2010 aktif, halaman 1882-1885. IEEE.
• Lazaro-Gredilla, M., Van Vaerenbergh, S., dan Santamaria, I. (2011). Pendekatan Bayesian untuk pelacakan dengan kuadrat-terkecil rekursif kernel . Dalam Pembelajaran Mesin untuk Pemrosesan Sinyal (MLSP), Lokakarya Internasional IEEE 2011 di halaman 1-6. IEEE.
• Perez-Cruz, F., Van Vaerenbergh, S., Murillo-Fuentes, JJ, Lazaro-Gredilla, M., dan Santamaria, I. (2013). Proses Gaussian untuk pemrosesan sinyal nonlinier: Tinjauan umum tentang kemajuan terkini . Majalah Pemrosesan Sinyal IEEE, 30 (4): 40-50.

Estimasi bertahap dari model GP dipelajari dengan baik dalam literatur. Gagasan yang mendasarinya adalah bukannya mengkondisikan pada semua pengamatan baru yang ingin Anda prediksi, syaratkan pada langkah satu langkah di depan dan lakukan ini berulang kali. Entah bagaimana ini menjadi dekat dengan penyaringan kalman.