Jika neuron dan sinapsis dapat diimplementasikan menggunakan transistor, apa yang mencegah kita membuat jaringan saraf besar yang sewenang-wenang menggunakan metode yang sama dengan GPU yang dibuat?
Pada dasarnya, kita telah melihat betapa luar biasa jaringan saraf virtual diimplementasikan pada prosesor sekuensial bekerja (bahkan GPU adalah mesin sekuensial, tetapi dengan sejumlah besar core).
Orang dapat membayangkan bahwa menggunakan prinsip-prinsip desain GPU - yang pada dasarnya memiliki ribuan unit pemrosesan yang dapat diprogram yang bekerja secara paralel - kita dapat membuat "unit pemrosesan neuron" yang jauh lebih sederhana dan menempatkan jutaan atau milyaran NPU tersebut dalam satu chip besar. Mereka akan memiliki ingatan mereka sendiri (untuk menyimpan bobot) dan terhubung ke beberapa ratus neuron lain dengan berbagi bus. Mereka dapat memiliki frekuensi misalnya 20 Hz, yang akan memungkinkan mereka untuk berbagi data bus dengan banyak neuron lainnya.
Jelas, ada beberapa tantangan teknik listrik di sini, tetapi bagi saya tampaknya semua perusahaan teknologi besar harus menjelajahi rute ini sekarang.
Banyak peneliti AI mengatakan bahwa kecerdasan super akan datang sekitar tahun 2045. Saya percaya bahwa alasan mereka didasarkan pada hukum Moore dan jumlah neuron yang dapat kita implementasikan dalam perangkat lunak yang berjalan pada komputer tercepat yang kita miliki.
Tetapi faktanya, kita saat ini membuat chip silikon dengan milyaran transistor. SPARK M7 memiliki 10 miliar transistor.
Jika menerapkan neuron (yang tidak dapat diprogram) dan beberapa ratus sinapsis memerlukannya misalnya 100.000 transistor, maka kita dapat membuat jaringan saraf pada perangkat keras yang mengemulasi 100.000 neuron.
Jika kita mendesain chip sedemikian rupa sehingga kita bisa membuatnya secara fisik lebih besar jika kita menginginkan lebih banyak neuron, maka bagi saya tampaknya bahwa jaringan saraf besar yang sewenang-wenang hanyalah pertanyaan anggaran.
Apakah kita secara teknis dapat membuat, dalam perangkat keras, jaringan saraf besar yang sewenang-wenang dengan teknologi terkini?
Ingat: Saya TIDAK bertanya apakah jaringan seperti itu sebenarnya sangat cerdas. Saya hanya bertanya apakah kita secara faktual dapat membuat jaringan saraf yang besar dan saling berhubungan secara sewenang-wenang, jika kita memutuskan untuk membayar Intel untuk melakukan ini?
Implikasinya adalah bahwa pada hari beberapa ilmuwan dapat membuat kecerdasan umum dalam perangkat lunak, kita dapat menggunakan kemampuan perangkat keras kita untuk menumbuhkan kecerdasan umum ini ke tingkat manusia dan seterusnya.