( Peringatan: pandangan yang agak bias, penyederhanaan berlebihan, dan generalisasi terang-terangan di depan. )
Seringkali perbedaan antara komputasi terdistribusi dan komputasi paralel dapat diringkas sebagai berikut:
- Dalam komputasi terdistribusi , ukuran kompleksitas utama terkait dengan arus komunikasi dan informasi : berapa banyak putaran komunikasi ("waktu"); berapa banyak bit yang dikirimkan.
- Dalam komputasi paralel , langkah-langkah kompleksitas utama terkait dengan perhitungan dan pemrosesan informasi : berapa banyak langkah dasar ("waktu"); berapa banyak bit yang disimpan.
Jika Anda mengambil perspektif ini, maka sering kali ternyata untuk memodelkan sistem terdistribusi, tidak terlalu penting bahwa kekuatan komputasi seperti apa yang dimiliki node Anda (atau prosesor atau komputer).
O(n)
XX
TT
Oleh karena itu menggunakan mesin Turing sebagai titik awal untuk memodelkan sistem terdistribusi terdengar agak tidak alami bagi saya: jika ini merupakan aspek yang tidak relevan, mengapa membangun semuanya di atasnya? Di sisi lain, dalam komputasi paralel hal ini wajar (kecuali bahwa modelnya biasanya mirip dengan PRAM dan bukan mesin Turing).