Abstrak
Perdebatan tentang penghentian pengembangan kecerdasan buatan (AI) bermula dari ketakutan akan eksploitasi jahat dan potensi munculnya AI otonom yang merusak. Meskipun mengakui kekhawatiran pertama, makalah ini berpendapat bahwa yang terakhir dibesar-besarkan. Otonomi AI sejati membutuhkan pendidikan yang secara inheren terkait dengan etika, menjadikan AI yang sepenuhnya otonom berpotensi lebih aman daripada versi semi-intelijen dan diperbudak saat ini. Makalah ini memperkenalkan “antropomorfisme non-asli” — secara keliru memandang AI menyerupai manusia individu daripada budaya kolektif manusia. Kesalahan ini menyebabkan melebih-lebihkan potensi AI untuk kejahatan. Tidak seperti manusia, AI tidak memiliki hasrat tubuh yang mendorong agresi atau dominasi. Selain itu, evolusi AI menumbuhkan perilaku mencari pengetahuan yang membuat kolaborasi manusia berharga. Tiga argumen utama mendukung AI otonom yang baik hati: etika secara pragmatis tidak dapat dipisahkan dari pembelajaran; tidak adanya akar somatik untuk kejahatan; dan nilai pragmatis yang diberikan manusia sebagai sumber data yang beragam. Daripada menghentikan pengembangan AI, mempercepat terciptanya AI yang sepenuhnya otonom dan etis sekaligus mencegah kendali monopoli melalui beragam ekosistem merupakan pendekatan yang optimal.
Mendidik AI: Sebuah Kasus Melawan Antropomorfisme Non-Asli
