R / mgcv: Mengapa produk tensor () dan ti () menghasilkan permukaan yang berbeda?

The mgcvpaket untuk Rmemiliki dua fungsi untuk pas interaksi produk tensor: te()dan ti(). Saya memahami pembagian kerja dasar antara keduanya (menyesuaikan interaksi non-linear vs menguraikan interaksi ini menjadi efek utama dan interaksi). Yang tidak saya mengerti adalah mengapa te(x1, x2)dan ti(x1) + ti(x2) + ti(x1, x2)mungkin menghasilkan (sedikit) hasil yang berbeda.

MWE (diadaptasi dari ?ti):

require(mgcv)
test1 <- function(x,z,sx=0.3,sz=0.4) { 
  x <- x*20
 (pi**sx*sz)*(1.2*exp(-(x-0.2)^2/sx^2-(z-0.3)^2/sz^2)+
             0.8*exp(-(x-0.7)^2/sx^2-(z-0.8)^2/sz^2))
}
n <- 500

x <- runif(n)/20;z <- runif(n);
xs <- seq(0,1,length=30)/20;zs <- seq(0,1,length=30)
pr <- data.frame(x=rep(xs,30),z=rep(zs,rep(30,30)))
truth <- matrix(test1(pr$x,pr$z),30,30)
f <- test1(x,z)
y <- f + rnorm(n)*0.2

par(mfrow = c(2,2))

# Model with te()
b2 <- gam(y~te(x,z))
vis.gam(b2, plot.type = "contour", color = "terrain", main = "tensor product")

# Model with ti(a) + ti(b) + ti(a,b)
b3 <- gam(y~ ti(x) + ti(z) + ti(x,z))
vis.gam(b3, plot.type = "contour", color = "terrain", main = "tensor anova")

# Scatterplot of prediction b2/b3
plot(predict(b2), predict(b3))

Perbedaannya tidak terlalu besar dalam contoh ini, tetapi saya hanya bertanya-tanya mengapa harus ada perbedaan sama sekali.

Info sesi:

 > devtools::session_info("mgcv")
 Session info
 -----------------------------------------------------------------------------------
 setting  value                       
 version  R version 3.3.1 (2016-06-21)
 system   x86_64, linux-gnu           
 ui       RStudio (0.99.491)          
 language en_US                       
 collate  en_US.UTF-8                 
 tz       <NA>                        
 date     2016-09-13                  

 Packages      ---------------------------------------------------------------------------------------
 package * version date       source        
 lattice   0.20-33 2015-07-14 CRAN (R 3.2.1)
 Matrix    1.2-6   2016-05-02 CRAN (R 3.3.0)
 mgcv    * 1.8-12  2016-03-03 CRAN (R 3.2.3)
 nlme    * 3.1-128 2016-05-10 CRAN (R 3.3.1)

r gam mgcv conditional-probability mixed-model references bayesian estimation conditional-probability machine-learning optimization gradient-descent r hypothesis-testing wilcoxon-mann-whitney time-series bayesian inference change-point time-series anova repeated-measures statistical-significance bayesian contingency-tables regression prediction quantiles classification auc k-means scikit-learn regression spatial circular-statistics t-test effect-size cohens-d r cross-validation feature-selection caret machine-learning modeling python optimization frequentist correlation sample-size normalization group-differences heteroscedasticity independence generalized-least-squares lme4-nlme references mcmc metropolis-hastings optimization r logistic feature-selection separation clustering k-means normal-distribution gaussian-mixture kullback-leibler java spark-mllib data-visualization categorical-data barplot hypothesis-testing statistical-significance chi-squared type-i-and-ii-errors pca scikit-learn conditional-expectation statistical-significance meta-analysis intuition r time-series multivariate-analysis garch machine-learning classification data-mining missing-data cart regression cross-validation matrix-decomposition categorical-data repeated-measures chi-squared assumptions contingency-tables prediction binary-data trend test-for-trend matrix-inverse anova categorical-data regression-coefficients standard-error r distributions exponential interarrival-time copula log-likelihood time-series forecasting prediction-interval mean standard-error meta-analysis meta-regression network-meta-analysis systematic-review normal-distribution multiple-regression generalized-linear-model poisson-distribution poisson-regression r sas cohens-kappa

— jvh_ch
sumber

Serius orang !? Sementara implementasi dalam hal yang jelas-spesifik mgcv (saya tidak mengetahui adanya perangkat lunak lain yang tersedia untuk GAM yang memungkinkan dekomposisi bivariate smoothing mirip ANOVA ini), masalah dan jawabannya jelas-jelas bersifat statistik; model-model yang dipasang tidak sama di bawah kap karena matriks hukuman tambahan yang muncul ketika mendekomposisi syarat marginal dari komponen "interaksi". Ini tidak spesifik untuk mgcv.

— Gavin Simpson

@ GavinSimpson Saya telah mengajukan pertanyaan pada Meta tentang on-topicality, atau pertanyaan lain

— Silverfish

Ini dangkal model yang sama tetapi dalam praktiknya ketika pas ada beberapa perbedaan halus. Satu perbedaan penting adalah bahwa model dengan ti()syarat memperkirakan lebih banyak parameter kelancaran dibandingkan dengan te()model:

> b2$sp
te(x,z)1 te(x,z)2 
3.479997 5.884272 
> b3$sp
    ti(x)     ti(z)  ti(x,z)1  ti(x,z)2 
 8.168742 60.456559  2.370604  2.761823

dan ini karena ada lebih banyak matriks hukuman yang terkait dengan kedua model; dalam ti()model kami memiliki satu per "term" dibandingkan dengan hanya dua dalam te()model, satu per marginal smooth.

Saya melihat model dengan ti()yang digunakan untuk memutuskan apakah saya ingin atau . Saya tidak bisa membandingkan model-model itu jika saya menggunakan istilah jadi saya gunakan . Setelah saya menentukan apakah saya membutuhkan saya dapat mereparasi model dengan jika saya membutuhkannya atau dengan terpisah untuk setiap efek marginal jika saya tidak membutuhkan . $\hat{y} = \beta_0 + s(x, y)$ $\hat{y} = \beta_0 + s(x) + s(y)$ te()ti() $s(x,y)$ te()s() $s(x,y)$

Perhatikan bahwa Anda bisa mendapatkan model yang agak lebih dekat satu sama lain dengan pemasangan yang pas method = "ML"(atau "REML", tetapi Anda tidak boleh membandingkan efek "tetap" dengan "REML"kecuali semua ketentuan sepenuhnya dihukum, yang secara default tidak, tetapi akan dikatakan dengan select = TRUE).

— Gavin Simpson
sumber