GAM vs LOESS vs splines

Konteks : Saya ingin menggambar garis di sebar yang tidak tampak parametrik, oleh karena itu saya gunakan geom_smooth()di ggplotdalam R. Secara otomatis mengembalikan geom_smooth: method="auto" and size of largest group is >=1000, so using gam with formula: y ~ s(x, bs = "cs"). Use 'method = x' to change the smoothing method.saya mengumpulkan singkatan GAM untuk model aditif umum dan menggunakan spline kubik.

Apakah persepsi berikut ini benar?

Loess memperkirakan respons pada nilai tertentu.
Splines adalah perkiraan yang menghubungkan berbagai fungsi piecewise yang sesuai dengan data (yang membentuk model aditif umum), dan splines kubik adalah jenis spline spesifik yang digunakan di sini.

Terakhir, Kapan splines digunakan, kapan LOESS digunakan?

r gam splines loess r data-visualization boxplot mathematical-statistics theory sufficient-statistics machine-learning classification correlation svm feature-selection probability stochastic-processes machine-learning reinforcement-learning

— Andrew Marderstein
sumber

jika gamfungsinya adalah dari paket gam, itu sebenarnya akan melakukan kedua splines dan smoothing polinomial lokal; LOESS adalah implementasi khusus pemulusan polinomial lokal dengan beberapa hal tambahan yang ditambahkan (seperti menurunkan residu besar).

— Glen_b -Reinstate Monica

Yang paling penting adalah jumlah derajat kebebasan efektif yang Anda berikan untuk setiap pendekatan. Untuk pandai besi nonparametrik seperti loess ini dikendalikan oleh bandwidth sedangkan untuk regresi splines df lebih jelas dan satu df dihabiskan untuk setiap simpul yang ditambahkan. Baik loess dan splines memperkirakan hubungan di antara keduanya $X$ dan $Y$ . Splines lebih umum dalam arti bahwa mereka dapat digunakan dalam berbagai konteks yang lebih besar.

— Frank Harrell
sumber