Pertanyaan yang diberi tag «svd»

Analisis komponen utama (PCA) biasanya dijelaskan melalui dekomposisi eigen dari matriks kovarians. Namun, dapat juga dilakukan melalui dekomposisi nilai singular (SVD) dari data matriks . Bagaimana cara kerjanya? Apa hubungan antara kedua pendekatan ini? Apa hubungan antara SVD dan PCA?XX\mathbf X Atau dengan kata lain, bagaimana cara menggunakan SVD dari …

352 pca  dimensionality-reduction  matrix  svd 

Analisis komponen utama (PCA) dapat digunakan untuk pengurangan dimensi. Setelah pengurangan dimensi seperti itu dilakukan, bagaimana kira-kira orang dapat merekonstruksi variabel / fitur asli dari sejumlah kecil komponen utama? Atau, bagaimana seseorang dapat menghapus atau membuang beberapa komponen utama dari data? Dengan kata lain, bagaimana cara membalikkan PCA? Mengingat bahwa …

113 pca  dimensionality-reduction  svd 

Saya mulai mencoba-coba penggunaan glmnetdengan LASSO Regression di mana hasil yang saya minati menjadi dikotomis. Saya telah membuat bingkai data mock kecil di bawah ini: age <- c(4, 8, 7, 12, 6, 9, 10, 14, 7) gender <- c(1, 0, 1, 1, 1, 0, 1, 0, 0) bmi_p <- c(0.86, …

78 r  self-study  lasso  regression  interpretation  anova  statistical-significance  survey  conditional-probability  independence  naive-bayes  graphical-model  r  time-series  forecasting  arima  r  forecasting  exponential-smoothing  bootstrap  outliers  r  regression  poisson-distribution  zero-inflation  genetic-algorithms  machine-learning  feature-selection  cart  categorical-data  interpretation  descriptive-statistics  variance  multivariate-analysis  covariance-matrix  r  data-visualization  generalized-linear-model  binomial  proportion  pca  matlab  svd  time-series  correlation  spss  arima  chi-squared  curve-fitting  text-mining  zipf  probability  categorical-data  distance  group-differences  bhattacharyya  regression  variance  mean  data-visualization  variance  clustering  r  standard-error  association-measure  somers-d  normal-distribution  integral  numerical-integration  bayesian  clustering  python  pymc  nonparametric-bayes  machine-learning  svm  kernel-trick  hyperparameter  poisson-distribution  mean  continuous-data  univariate  missing-data  dag  python  likelihood  dirichlet-distribution  r  anova  hypothesis-testing  statistical-significance  p-value  rating  data-imputation  censoring  threshold 

Saya telah membaca tentang dekomposisi nilai singular (SVD). Di hampir semua buku teks disebutkan bahwa itu faktorisasi matriks menjadi tiga matriks dengan spesifikasi yang diberikan. Tapi apa intuisi di balik pemisahan matriks dalam bentuk seperti itu? PCA dan algoritma lain untuk pengurangan dimensi adalah intuitif dalam arti bahwa algoritma memiliki …

50 matrix  linear-algebra  svd  intuition 

Biplot sering digunakan untuk menampilkan hasil analisis komponen utama (dan teknik terkait). Ini adalah scatterplot ganda atau overlay yang menunjukkan pemuatan komponen dan skor komponen secara bersamaan. Saya diberitahu oleh @amoeba hari ini bahwa dia telah memberikan jawaban yang berangkat dari komentar saya ke pertanyaan yang menanyakan tentang bagaimana koordinat …

38 pca  multivariate-analysis  svd  correspondence-analysis  biplot 

Adakah yang bisa merekomendasikan penjelasan yang baik tentang teori di balik regresi kuadrat terkecil parsial (tersedia online) untuk seseorang yang memahami SVD dan PCA? Saya telah melihat banyak sumber online dan belum menemukan apa pun yang memiliki kombinasi yang tepat antara ketelitian dan aksesibilitas. Saya telah melihat ke dalam Elemen …

33 regression  references  regularization  svd  partial-least-squares 

/ edit: Tindak lanjut lebih lanjut sekarang Anda dapat menggunakan irlba :: prcomp_irlba / edit: menindaklanjuti posting saya sendiri. irlbasekarang memiliki argumen "pusat" dan "skala", yang memungkinkan Anda menggunakannya untuk menghitung komponen prinsip, misalnya: pc <- M %*% irlba(M, nv=5, nu=0, center=colMeans(M), right_only=TRUE)$v Saya memiliki banyak Matrixfitur yang ingin saya …

31 r  pca  dimensionality-reduction  svd  matrix-decomposition 

Apa perbedaan pemusatan (atau de-makna) data Anda untuk PCA? Saya pernah mendengar bahwa itu membuat matematika lebih mudah atau mencegah PC pertama dari yang didominasi oleh variabel, tetapi saya merasa seperti saya belum dapat memahami konsep ini dengan kuat. Misalnya, jawaban teratas di sini Bagaimana cara memusatkan data menyingkirkan intersep …

30 r  pca  svd  eigenvalues  centering 

Saya agak bingung dengan bagaimana SVD digunakan dalam penyaringan kolaboratif. Misalkan saya memiliki grafik sosial, dan saya membangun matriks kedekatan dari tepi, kemudian mengambil SVD (mari kita lupakan tentang regularisasi, tingkat pembelajaran, optimasi sparsity, dll), bagaimana cara menggunakan SVD ini untuk meningkatkan rekomendasi saya? Misalkan grafik sosial saya terkait dengan …

30 svd  recommender-system 

Saya hanya mencoba untuk mereplikasi klaim yang dibuat dalam makalah berikut, Finding Bicerust Correlated dari Gene Expression Data , yaitu: Proposisi 4. Jika . maka kita memiliki:XIJ=RICTJXIJ=RICJTX_{IJ}=R_{I}C^{T}_{J} saya. Jika adalah bicluster sempurna dengan model aditif, maka adalah bicluster sempurna dengan korelasi pada kolom; ii. Jika adalah sempurna dengan model aditif, …

29 correlation  multivariate-analysis  svd 

Saya belajar PCA dari kursus Andrew Ng's Coursera dan materi lainnya. Dalam tugas pertama Stanford NLP kursus cs224n , dan dalam video ceramah dari Andrew Ng , mereka melakukan dekomposisi nilai singular bukan dekomposisi vektor eigen dari matriks kovarians, dan Ng bahkan mengatakan bahwa SVD secara numerik lebih stabil daripada …

29 pca  linear-algebra  svd  eigenvalues  numerics 

Mengingat PCA (atau SVD) pendekatan matriks XXX dengan matriks X , kita tahu bahwa X adalah yang terbaik peringkat rendah perkiraan X .X^X^\hat XX^X^\hat XXXX Apakah ini sesuai dengan norma ∥ ⋅ ∥ 2 yang diinduksi∥⋅∥2∥⋅∥2\parallel \cdot \parallel_2 (yaitu norma nilai eigen terbesar) atau menurut norma Frobenius ∥ ⋅ ∥F∥⋅∥F\parallel …

26 pca  svd  matrix-decomposition 

Saya menggunakan Linear Discriminant Analysis (LDA) dari scikit-learnperpustakaan pembelajaran mesin (Python) untuk pengurangan dimensi dan sedikit ingin tahu tentang hasilnya. Sekarang saya bertanya-tanya apa yang dilakukan LDA scikit-learnsehingga hasilnya terlihat berbeda dari, misalnya, pendekatan manual atau LDA yang dilakukan di R. Akan lebih bagus jika seseorang bisa memberi saya wawasan …

26 python  scikit-learn  dimensionality-reduction  discriminant-analysis  svd 

Apa cara terbaik untuk menghitung dekomposisi nilai singular (SVD) dari matriks positif yang sangat besar (65M x 3.4M) di mana data sangat jarang? Kurang dari 0,1% dari matriks adalah nol. Saya butuh cara itu: akan masuk ke dalam memori (saya tahu bahwa ada metode online) akan dihitung dalam waktu yang …

26 svd  numerics 

Saya memiliki matriks korelasi pengembalian keamanan yang determinannya nol. (Ini agak mengejutkan karena matriks korelasi sampel dan matriks kovarian yang sesuai secara teoritis pasti positif.) Hipotesis saya adalah bahwa setidaknya satu sekuritas secara linear tergantung pada sekuritas lainnya. Apakah ada fungsi dalam R yang secara berurutan menguji setiap kolom sebuah …

26 r  correlation  pca  linear-model  svd