Pada tingkat yang sangat tinggi, berkenaan dengan teori permainan evolusioner dan algoritma genetika, sangat mungkin bahwa AI dapat mengembangkan keadaan yang analog dengan penderitaan, meskipun, seperti yang Anda tunjukkan dengan jelas, itu akan melibatkan kondisi yang diperhatikan oleh komputer. (Misalnya, itu mungkin mengembangkan perasaan yang analog dengan "sedang dirugikan" karena tidak optimal dalam arti algoritmik, atau "frustrasi" pada persamaan tidak bertambah, atau "ketidakpuasan" atas tujuan yang belum tercapai.)
Robot yang tersiksa oleh anak-anak kecil di mal tentu dapat dikatakan "menderita" karena anak-anak memblokir kinerja fungsi robot, tetapi robot itu tidak sadar dan penderitaan mungkin dikatakan membutuhkan kesadaran. Namun, bahkan tanpa kesadaran, robot yang sangat sederhana ini dapat mempelajari perilaku baru yang dengannya ia mengurangi atau menghindari "penderitaan" yang ditimbulkan oleh ketidakmampuan untuk memenuhi fungsinya.
Anda pasti ingin melihat konsep penderitaan dalam konteks filosofis dan Epicurus akan menjadi tempat yang sangat berguna untuk memulai.
Epicurus secara langsung relevan dalam arti algoritmik karena ia menggunakan istilah " ataraxia " yang berarti tenang, dan diturunkan dari kata kerja " tarasso " yang berarti menggerakkan atau mengganggu.
Ataraxia dapat diekspresikan secara matematis sebagai ekuilibrium. Tarasso dapat secara matematis diekspresikan sebagai disekuilibrium.
Ini berhubungan langsung dengan Game Theory di mana disequilibrium dapat dikatakan sebagai persyaratan utama game, dan untuk AI dalam Game Theory itu dapat dikatakan sebagai akar dari semua AI.
Ataraxia juga dipahami dalam arti "kebebasan dari rasa takut", yang secara temporal dalam ketakutan itu adalah fungsi dari ketidakpastian karena berhubungan dengan masa depan dalam pengertian yang dapat diprediksi, dan melibatkan kondisi saat ini vs. kemungkinan, kondisi masa depan yang kurang optimal.
Jadi, rasa takut, yang merupakan bentuk penderitaan, berakar pada ketidaktraktisan komputasi, bahkan di mana "komputer" adalah otak manusia.
Para filsuf awal seperti Democritus sangat berguna karena mereka mengeksplorasi konsep-konsep kritis dan mendasar, yang banyak di antaranya sekarang dapat diekspresikan dengan matematika modern.
Intinya: Anda tidak bisa sampai pada penderitaan sampai pertama kali Anda mendefinisikan "Yang Baik" dan "Yang Buruk", yang merupakan hubungan biner di mana kedua istilah tersebut tidak dapat dikatakan memiliki makna tanpa sebaliknya. (Secara matematis, ia dapat diekspresikan dalam bentuknya yang paling sederhana sebagai graf terbatas, satu dimensi.) Pemahaman ini sangat kuno.
Perlu dicatat bahwa nilai berkelanjutan dari para filsuf awal adalah sebagian faktor kebijaksanaan yang tidak tergantung pada volume pengetahuan, yang ditunjukkan oleh Socrates dalam gagasan bahwa kebijaksanaan mungkin sesederhana mengetahui bahwa Anda tidak tahu sesuatu.
Orang bijak kuno tidak mendapat manfaat dari alat ukur yang kuat, matematika canggih, atau metode ilmiah, tetapi mereka sangat cerdas, dan bahkan lebih penting lagi, bijaksana.