Itu karena lebih mudah dan lebih murah untuk meningkatkan bandwidth DRAM daripada mengurangi latensi. Untuk mendapatkan data dari deretan ram yang terbuka, diperlukan jumlah pekerjaan yang tidak sepele.
Alamat kolom perlu diterjemahkan, muxes yang memilih jalur mana yang harus diakses perlu didorong, dan data perlu bergerak melintasi chip ke buffer output. Ini membutuhkan sedikit waktu, terutama mengingat bahwa chip SDRAM dibuat pada proses yang disesuaikan dengan kepadatan ram tinggi dan bukan kecepatan logika tinggi. Untuk meningkatkan bandwidth katakanlah dengan menggunakan DDR (1,2,3 atau 4), sebagian besar logika dapat diperluas atau disalurkan melalui pipa, dan dapat beroperasi pada kecepatan yang sama seperti pada generasi sebelumnya. Satu-satunya hal yang perlu lebih cepat adalah driver I / O untuk pin DDR.
Sebaliknya, untuk mengurangi latensi seluruh operasi perlu dipercepat, yang jauh lebih sulit. Kemungkinan besar, bagian dari ram harus dibuat pada proses yang mirip dengan untuk CPU kecepatan tinggi, meningkatkan biaya secara substansial (proses kecepatan tinggi lebih mahal, ditambah setiap chip harus melalui 2 proses yang berbeda).
Jika Anda membandingkan cache CPU dengan RAM dan hard disk / SSD, ada hubungan terbalik antara penyimpanan yang besar, dan penyimpanan yang cepat. L1 $ sangat cepat, tetapi hanya bisa menampung antara 32 dan 256kB data. Alasannya begitu cepat adalah karena kecil:
- Itu dapat ditempatkan sangat dekat dengan CPU menggunakannya, artinya data harus menempuh jarak yang lebih pendek untuk mendapatkannya
- Kabel di atasnya dapat dibuat lebih pendek, lagi-lagi berarti dibutuhkan lebih sedikit waktu untuk melakukan perjalanan melintasinya
- Itu tidak memakan banyak area atau banyak transistor, jadi membuatnya pada proses yang dioptimalkan dengan kecepatan dan menggunakan banyak daya per bit yang disimpan tidak terlalu mahal
Saat Anda naik hierarki, setiap opsi penyimpanan memiliki kapasitas yang lebih besar, tetapi juga lebih besar di area dan semakin jauh dari perangkat yang menggunakannya, artinya perangkat harus menjadi lebih lambat.