Dapatkah singularitas teknologi hanya terjadi dengan kecerdasan super?

Dalam Bab 26 buku Inteligensi Buatan: Pendekatan Modern (edisi ke-3), buku teks ini membahas "singularitas teknologi". Itu mengutip IJ Good, yang menulis pada tahun 1965:

Biarkan mesin ultra-cerdas didefinisikan sebagai mesin yang dapat jauh melampaui semua kegiatan intelektual siapa pun yang cerdas. Karena desain mesin adalah salah satu dari aktivitas intelektual ini, mesin ultra-cerdas dapat merancang mesin yang lebih baik; maka tidak diragukan lagi akan ada "ledakan kecerdasan," dan kecerdasan manusia akan tertinggal jauh. Jadi, mesin ultra-cerdas pertama adalah penemuan terakhir yang perlu dibuat manusia, asalkan mesin itu cukup jinak untuk memberi tahu kita bagaimana mengendalikannya.

Kemudian di buku pelajaran, Anda memiliki pertanyaan ini:

26.7 - IJ Good mengklaim bahwa kecerdasan adalah kualitas yang paling penting, dan bahwa membangun mesin yang sangat cerdas akan mengubah segalanya. Cheetah yang hidup menjawab bahwa "Sebenarnya kecepatan lebih penting; jika kita dapat membangun mesin ultrafast, itu akan mengubah segalanya" dan seekor gajah yang hidup mengklaim "Anda berdua salah; yang kita butuhkan adalah mesin ultrastrong," Apa pendapat Anda tentang ini argumen?

Tampaknya pertanyaan buku teks adalah argumen implisit terhadap IJ Good. Baik mungkin memperlakukan kecerdasan sebagai sesuatu yang berharga, hanya karena kekuatan manusia terletak pada sifat yang disebut "kecerdasan". Tetapi sifat-sifat lain dapat sama-sama dihargai sebagai gantinya (kecepatan atau kekuatan) dan makhluk hidup dapat berspekulasi liar tentang sifat-sifat yang mereka sukai yang "dimaksimalkan" oleh beberapa mesin atau lainnya.

Ini membuat saya bertanya-tanya apakah singularitas dapat terjadi jika kita telah membangun mesin yang tidak memaksimalkan kecerdasan, tetapi sebaliknya memaksimalkan beberapa sifat lain (mesin yang selalu meningkatkan kekuatannya, atau mesin yang selalu meningkatkan kecepatannya). Jenis mesin ini bisa sama transformatif - mesin ultrafast dapat menyelesaikan masalah dengan cepat karena "kekuatan kasar", dan mesin ultrastrong dapat menggunakan daya mentahnya untuk berbagai tugas fisik. Mungkin mesin ultra-X tidak dapat membangun mesin ultra-X lainnya (seperti IJ Good memperlakukan desain mesin sebagai aktivitas intelektual), tetapi mesin yang terus memperbaiki diri masih akan meninggalkan pembuatnya jauh di belakang dan memaksa pembuatnya untuk menjadi tergantung padanya.

Apakah singularitas teknologi terbatas pada kecerdasan ultra? Atau singularitas teknologi disebabkan oleh mesin yang bukan "AI kuat" tetapi masih merupakan "pengoptimalan" ultra?

Itu akan menjadi tidak untuk kecepatan atau kekuatan, jika Anda memiliki entitas yang super kuat tetapi tidak dapat meneliti bahan baru, itu akan cepat dibatasi, hal yang sama untuk kecepatan, Pada dasarnya, Anda perlu sesuatu di luar bidang mereka untuk meningkatkannya, yang membuat peningkatan yang tidak mungkin terjadi.

Padahal, kita sudah memiliki mesin yang sangat kuat dan super cepat, itu adalah mobil, truk, mesin hidrolik, exoskeletons industri dll ... Tapi, meskipun kita dapat membangun yang lebih baik melalui penggunaan yang lama, kita masih perlu meneliti barang-barang itu tidak bisa diperbaiki oleh yang lama.

Apa yang kita butuhkan untuk singularitas adalah bidang di mana perbaikan di dalamnya membuat perbaikan lebih mudah. Dan saya tidak tahu bidang di mana ini tidak melibatkan kecerdasan. Jika ada, itu mungkin untuk memiliki singularitas non-driven didorong di sana.

"Monte Carlo" tampaknya menjadi metode terbaik saat ini untuk kreativitas algoritmik. (Yaitu mesin membuat pilihan acak dan melihat apakah mereka mengarah pada sesuatu yang bermanfaat.)

Meskipun tampak jelas bahwa koneksi kreatif yang terbentuk dari pemahaman lebih unggul daripada yang acak, jika mesinnya cukup cepat, ia harus dapat dimenangkan oleh "kekuatan kasar" yang murni.

yaitu Evolusi, sebelum bimbingan manusia, belum didasarkan pada kecerdasan. * Sebaliknya, evolusi didasarkan pada mutasi acak yang menguntungkan atau merugikan.

* Peringatannya adalah bahwa manusia yang membuat algoritma dan mengubah gen (baik di laboratorium atau melalui peternakan dan hortikultura) dapat dikatakan terdiri dari bentuk evolusi baru yang sebenarnya berakar pada kecerdasan dan keinginan manusia.

Ini mungkin bukan yang Anda cari, tetapi secara teknis ya. Meski bukan untuk Kecepatan dan Kekuatan. Tetapi Anda dapat menebak secara acak solusi Matematika / Fisik / kimia baru untuk menjadi lebih efisien dalam menebak acak (pada dasarnya segala sesuatu yang memungkinkan mesin untuk menghitung lebih cepat dan mungkin mensimulasikan efek dari temuan-temuan itu) sehingga secara teknis mencapai sesuatu yang mirip dengan singularitas, tanpa harus untuk memiliki Intelijen sama sekali sebenarnya (atau hanya pada Tingkat manusia), karena Anda bisa saja memaksa semua.

Apakah ini efisien? Tidak, bahkan hampir tidak layak. Apakah itu bekerja? Secara teknis, Ya.

Ini akan menjadi semacam singularitas, karena ia meningkatkan dirinya sendiri secara terus menerus, tetapi ia tidak perlu meningkatkan kecerdasannya sendiri.

Tentu saja, beberapa temuan mungkin memungkinkan untuk menjadi lebih cerdas, tetapi anggap saja itu tidak berlaku untuk temuan itu sendiri.