Pertanyaan yang diberi tag «kernel-trick»

Saya sedang mempelajari perbedaan antara regularisasi dalam regresi RKHS dan regresi linier, tetapi saya kesulitan memahami perbedaan penting antara keduanya. (xi,yi)(xi,yi)(x_i,y_i)f(⋅)f(⋅)f(\cdot)f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation}K(⋅,⋅)K(⋅,⋅)K(\cdot,\cdot)αmαm\alpha_mminα∈Rn1n∥Y−Kα∥2Rn+λαTKα,minα∈Rn1n‖Y−Kα‖Rn2+λαTKα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}K\alpha},\end{equation} di mana, dengan beberapa penyalahgunaan notasi, entri i,ji,ji,j dari matriks kernel KKK adalah K(xi,xj)K(xi,xj){\displaystyle K(x_{i},x_{j})} . Ini memberi α∗=(K+λnI)−1Y.α∗=(K+λnI)−1Y.\begin{equation} \alpha^*=(K+\lambda …

9 regression  generalized-linear-model  regularization  kernel-trick  rbf-kernel 

Saya seorang pemula ketika datang untuk mendukung mesin vektor. Apakah ada beberapa pedoman yang mengatakan kernel mana (mis. Linear, polinomial) paling cocok untuk masalah tertentu? Dalam kasus saya, saya harus mengklasifikasikan halaman web menurut apakah mereka mengandung beberapa informasi spesifik atau tidak, yaitu saya memiliki masalah klasifikasi biner. Dapatkah Anda …

9 classification  svm  model-selection  libsvm  kernel-trick 

Saat menggunakan libsvm, parameter adalah parameter untuk fungsi kernel. Nilai standarnya adalah setup sebagaiγ = 1γγ\gammaγ= 1sejumlah fitur.γ=1number of features.\gamma = \frac{1}{\text{number of features.}} Apakah ada panduan teoretis untuk mengatur parameter ini selain metode yang ada, misalnya, pencarian kisi?

9 machine-learning  svm  data-mining  libsvm  kernel-trick 

Apakah mungkin untuk menggunakan analisis komponen utama kernel (kPCA) untuk Latent Semantic Indexing (LSI) dengan cara yang sama seperti PCA digunakan? Saya melakukan LSI dalam R menggunakan prcompfungsi PCA dan mengekstrak fitur dengan memuat tertinggi dari komponen pertama . Dengan itu saya mendapatkan fitur yang menggambarkan komponen terbaik.kkk Saya mencoba …

9 r  pca  feature-selection  kernel-trick 

Saya sedikit bingung tentang formula untuk menghitung kovarian dalam proses Gaussian (penambahan varian selalu membingungkan saya karena tidak selalu dilambangkan secara eksplisit). Asal mula kebingungan adalah bahwa formula yang diberikan dalam Pengenalan Pola dan Pembelajaran Mesin oleh Bishop dan proses Gaussian untuk Pembelajaran Mesin oleh Rasmussen berbeda. Mean GP diberikan …

8 machine-learning  covariance  covariance-matrix  kernel-trick  gaussian-process 

Metode Multiple Kernel Learning bertujuan untuk membangun model kernel di mana kernel merupakan kombinasi linear dari kernel basis tetap. Mempelajari kernel kemudian terdiri dari mempelajari koefisien pembobotan untuk setiap kernel dasar, daripada mengoptimalkan parameter kernel dari satu kernel. Kelemahan dari beberapa pembelajaran kernel tampaknya adalah mereka kurang dapat ditafsirkan dan …

8 machine-learning  svm  kernel-trick 

Saya memiliki dua kelompok yang terdiri dari 10 peserta yang dinilai tiga kali selama percobaan. Untuk menguji perbedaan antara kelompok dan di tiga penilaian, saya menjalankan ANOVA desain campuran 2x3 dengan group(kontrol, eksperimental), time(pertama, kedua, tiga), dan group x time. Keduanya timedan grouphasilnya signifikan, selain itu ada interaksi yang signifikan …

8 anova  mixed-model  spss  post-hoc  bonferroni  time-series  unevenly-spaced-time-series  classification  normal-distribution  discriminant-analysis  probability  normal-distribution  estimation  sampling  classification  svm  terminology  pivot-table  random-generation  self-study  estimation  sampling  estimation  categorical-data  maximum-likelihood  excel  least-squares  instrumental-variables  2sls  total-least-squares  correlation  self-study  variance  unbiased-estimator  bayesian  mixed-model  ancova  statistical-significance  references  p-value  fishers-exact  probability  monte-carlo  particle-filter  logistic  predictive-models  modeling  interaction  survey  hypothesis-testing  multiple-regression  regression  variance  data-transformation  residuals  minitab  r  time-series  forecasting  arima  garch  correlation  estimation  least-squares  bias  pca  predictive-models  genetics  sem  partial-least-squares  nonparametric  ordinal-data  wilcoxon-mann-whitney  bonferroni  wilcoxon-signed-rank  traminer  regression  econometrics  standard-error  robust  misspecification  r  probability  logistic  generalized-linear-model  r-squared  effect-size  gee  ordered-logit  bayesian  classification  svm  kernel-trick  nonlinear  bayesian  pca  dimensionality-reduction  eigenvalues  probability  distributions  mathematical-statistics  estimation  nonparametric  kernel-smoothing  expected-value  filter  mse  time-series  correlation  data-visualization  clustering  estimation  predictive-models  recommender-system  sparse  hypothesis-testing  data-transformation  parametric  probability  summations  correlation  pearson-r  spearman-rho  bayesian  replicability  dimensionality-reduction  discriminant-analysis  outliers  weka 

Saya menerapkan classifier SVM non-linear dengan RBF kernel. Saya diberitahu bahwa satu-satunya perbedaan dari SVM normal adalah bahwa saya harus mengganti produk dot dengan fungsi kernel: Saya tahu bagaimana SVM linear normal bekerja, yaitu, setelah menyelesaikan masalah optimasi kuadratik (tugas ganda), saya menghitung hyperplane pembagian optimal seperti dan offset dari …

8 classification  svm  kernel-trick  nonlinear