Mengapa AMD menempatkan SSD pada papan GPU mengurangi latensi?

AMD baru-baru ini dalam berita dengan papan Radeon Pro yang menarik dengan beberapa SSD M2 di atasnya.

Seperti yang dicatat oleh beberapa cerita yang lebih terperinci (di sini atau di sini , misalnya), manfaatnya mungkin bukan berasal dari bandwidth tinggi (M2 hanya masing-masing pada 4 lajur PCIe, sehingga konektor 16 lajur papan sendiri seharusnya memiliki lebih banyak) tetapi dari latensi rendah. Cerita ini termasuk klaim "ini menghasilkan latensi akses memori 10x lebih rendah".

Pertanyaan saya pada dasarnya: mengapa SSD yang terhubung PCIe pada papan GPU memiliki latensi yang jauh lebih rendah daripada GPU yang mengakses RAM sistem utama atau perangkat penyimpanan pada bus PCIe sistem? Ada apa dengan sistem utama yang "menghalangi" dan berarti on-board SSD bisa lebih cepat diakses?

gpu performance hardware

— timday
sumber

Itu dapat melewati OS / driver

— RichieSams

@RichieSams: Menarik; apakah itu berarti secara prinsip seseorang dapat mencapai hasil yang sama dengan mengakses SSD PCIe khusus melalui bus sistem? (Saya tidak tahu sejauh mana lalu lintas PCIe sistem utama memerlukan dukungan OS untuk perangkat untuk melakukan komunikasi apa pun, atau apakah mereka dapat melakukannya secara lebih mandiri setelah pengaturan).

— timday

@timday sebagian tetapi masih ada overhead karena Anda harus menunggu giliran Anda dari contriollers grafis

— joojaa

Menjawab dari sudut pandang orang awam (saya bukan ahli perangkat keras, tetapi saya telah membangun komputer saya sendiri), saya akan menganalogikannya, menggunakan situasi mendapatkan beberapa bahan untuk memasak makanan.

Menggunakan "sistem utama" RAM / penyimpanan seperti Anda mencari bahan, tidak menemukannya di lemari Anda, dan, katakanlah, berjalan ke tetangga Anda dan bertanya apakah mereka memilikinya. Ternyata mereka melakukannya; mereka membawakannya, Anda berterima kasih kepada mereka dan kembali ke rumah Anda dan menggunakannya.

Menggunakan "on board" RAM / penyimpanan seperti Anda mencari bahan, menemukannya di lemari Anda, dan menggunakannya.

Dengan on board RAM / storage, GPU hanya perlu melakukan lebih sedikit pekerjaan untuk mendapatkan informasi yang dibutuhkan. Informasi ini juga lebih dekat, baik secara fisik maupun ketika mempertimbangkan jumlah perangkat keras dan perangkat lunak yang harus dilalui informasi. Dengan on board RAM / storage, GPU hanya perlu mencari di mana informasinya berada, dan kemudian mengambil informasi itu dari RAM / storage, yang kemudian melakukan perjalanan mungkin beberapa inci kawat ke unit pemrosesan GPU.

Dengan RAM sistem utama / penyimpanan, ada jarak yang lebih besar dari kawat untuk melakukan perjalanan sinyal, meskipun mungkin hanya sebagian kecil dari satu detik, masih dapat menambah lebih dari ribuan panggilan untuk mengambil informasi. Juga, ada lebih banyak kemacetan potensial, dengan semua bagian berbeda yang saling berhubungan.

Terakhir, dengan on board RAM / storage, AMD memiliki kesempatan untuk mengoptimalkan sistem, karena mereka mengendalikan perangkat keras yang sedang digunakan. Ini seperti bagaimana Apple menyesuaikan Mac OS ke komputer Mac-nya.

— Ben Sandeen
sumber