Baris utama versus Kolom tata letak utama matriks

Dalam pemrograman perhitungan matriks padat, apakah ada alasan untuk memilih tata letak baris-utama dari lebih dari tata letak kolom-utama?

Saya tahu bahwa tergantung pada tata letak matriks yang dipilih, kita perlu menulis kode yang sesuai untuk menggunakan memori cache secara efektif untuk keperluan kecepatan.

Tata letak baris-utama tampaknya lebih alami dan lebih sederhana (setidaknya bagi saya). Tetapi perpustakaan utama seperti LAPACK yang ditulis dalam Fortran menggunakan tata letak kolom utama, jadi pasti ada alasan untuk membuat pilihan ini.

Layout utama kolom adalah skema yang digunakan oleh Fortran dan itulah mengapa itu digunakan di LAPACK dan perpustakaan lain.

Secara umum itu jauh lebih efisien dalam hal penggunaan bandwidth memori dan kinerja cache untuk mengakses elemen-elemen dari array dalam urutan di mana mereka diletakkan dalam memori. Bergantung pada bagaimana matriks Anda disimpan, ada baiknya Anda memilih algoritma yang memanfaatkan ini.

Penyimpanan internal format utama kolom

Dalam ruang hampa tanpa mempertimbangkan perangkat lunak yang ada, tidak ada alasan untuk memilih kolom utama daripada baris utama dari sudut pandang kode. Namun, sebagian besar literatur matematika ditulis dengan cara yang mengelompokkan vektor ke dalam matriks dengan menyimpannya sebagai kolom, bukan baris. Misalnya ketika Anda menulis persamaan nilai eigen lengkap , $AX=X\Lambda$$X$matrix berisi semua vektor eigen yang dituliskan dalam kolom. Anda tidak pernah benar-benar melihatnya ditulis dengan cara lain (walaupun saya mendengar bahwa orang-orang statistik menyukai vektor baris). Oleh karena itu, wajar jika perangkat lunak paling awal mengasumsikan format utama kolom sehingga jika Anda memiliki matriks yang merupakan kumpulan vektor, penyimpanan setiap vektor tunggal berdekatan. Jadi, saya membayangkan bahwa tradisi baru saja diteruskan ke masa kini, dan jika Anda ingin berinteraksi dengan Fortran ye olde, Anda ingin menggunakan kolom utama. Jadi hampir semua aljabar linear numerik yang sangat efisien dilakukan dalam kolom utama.

Alasan C adalah baris utama agak merupakan konsekuensi dari sintaks arraynya; Anda mendeklarasikan array 3 baris dengan 2 kolom sebagai double a[3][2], dan indeks kemudian bervariasi lebih cepat dari indeks sebelumnya, yang untuk array 2D menjadikannya baris utama. Menggabungkan ini dengan urutan pembacaan Barat alami dari kiri ke kanan, itu membuat baris utama tampak lebih alami.

Tatanan kolom-utama sepertinya lebih alami. Misalnya, jika Anda ingin menyimpan film ke file gambar dengan gambar maka Anda menggunakan urutan kolom, dan itu sangat intuitif dan tidak ada yang akan menyimpannya dalam urutan baris-utama.

Jika Anda seorang programmer di C / C ++ Anda harus menggunakan beberapa pustaka tingkat yang lebih tinggi untuk matriks (Eigen, Armadillo, ...) dengan urutan kolom-utama default. Hanya maniak yang akan menggunakan pointer C mentah dengan urutan baris-utama, meskipun C / C ++ menawarkan sesuatu yang mengingatkan pengindeksan matriks.

Untuk kesederhanaan segala sesuatu dengan tatanan baris-utama harus dianggap sebagai paling tidak terbentuk aneh. Slice by slice adalah tatanan alami dan itu berarti tatanan kolom-utama (seperti Fortran). Ayah / ibu kami memiliki alasan yang sangat bagus mengapa mereka memilihnya.

Sayangnya sebelum menjadi jelas beberapa perpustakaan menarik dibuat dalam urutan baris-utama, mungkin karena kurangnya pengalaman.

Untuk memperjelas mengingat definisi urutan baris-utama di mana indeks kanan bervariasi lebih cepat dalam satu langkah melalui memori misalnya A (x, y, z) itu adalah indeks-z, itu berarti bahwa dalam piksel memori dari irisan yang berbeda berbatasan, apa yang kita inginkan mau. Untuk film A (x, y, t) indeks terakhir adalah waktu t. Tidak sulit membayangkan bahwa tidak mungkin untuk menyimpan film dalam mode baris-utama.

Pilihan pengindeksan baris-utama / kolom-besar dapat memiliki dampak signifikan pada kinerja karena cara kerja memori dan cache, dan cara beberapa indeks dikonversi menjadi indeks linier. Secara internal, memori adalah larik 1 dimensi tunggal, dan elemen a$m\times n$ matriks akan disusun secara linear:

• elemen $m_{i,j}$ akan disimpan di indeks $i \times m + j$ jika urutan baris-utama digunakan
• elemen $m_{i,j}$ akan disimpan di indeks $j \times n + i$ jika pesanan kolom-utama digunakan

Sekarang bayangkan algoritma berikut:

for i from 1 to m
   for j from 1 to n
      do something with m(i,j)

Jika urutan baris-utama digunakan, maka ini akan melintasi semua indeks linier $i \times m + j$secara berurutan, menghasilkan lokalitas memori yang baik, sedangkan jika urutan kolom-utama digunakan, maka akses memori berturut-turut akan tersebar di memori. Konsekuensi dapat dramatis terutama ketika memori virtual / swapping memasuki adegan.

Kesimpulan:

1. ya, itu penting, tetapi pilihannya tergantung pada cara data diakses. Untuk contoh sebelumnya, jika urutan kolom digunakan, yang dapat Anda lakukan hanyalah menukar kedua loop.

2. aturan praktis: indeks cepat berubah harus dipetakan ke lokasi berturut-turut dalam memori.

3. lebih penting lagi, mengukur / membandingkan dampak dari pilihan adalah hal yang mendasar, karena itu tergantung pada banyak parameter (ukuran data, ukuran cache, cara bahasa yang digunakan memetakan banyak indeks ke indeks linier, cara operasi sistem mengelola memori virtual, cara loop bersarang di perpustakaan aljabar linier yang Anda gunakan ...)