Level Selanjutnya yang Lebih Canggih Dari AI, Siapkah Umat Manusia dengan AGI?
- pixabay
Tidak mengherankan, mengingat konsep AGI membuat para pakar mempertimbangkan potensi skenario negatif, semisal, AGI dalam bidang kesehatan bisa memutuskan untuk tidak merawat lansia demi mengoptimalkan kesehatan penduduk usia muda.
AGI bertugas menghasilkan uang yang dengan cepat dan bisa saja menggantikan semua pekerja manusia sehingga menyebabkan PHK massal
AGI yang dibuat oleh negara menggunakan kemampuannya, dikhawatirkan menghancurkan pertahanan dunia maya negara lain
AGI bidang pertahanan bisa saja memutuskan menduduki suatu kota untuk membunuh target bernilai tinggi, sehingga terdengar seperti adegan film The Terminator
Bahkan ada yang memprediksi bahwa AGI dapat digunakan untuk memerintahkan prajurit manusia dalam perang.
Robert Sparrow dari Monash University dan Adam Henschke dari University of Twente dalam sebuah makalahnya menyebutkan, karena skenario perang seperti itu mungkin terjadi, muncul kekhawatiran etis apakah AI harus diberi wewenang untuk mengirim manusia ke potensi kematian mereka.
"Akhirnya, mengejar kemenangan mungkin membutuhkan penyerahan komando ke mesin dan kemenangan dapat ditentukan oleh kekuatan mana yang memiliki AI yang lebih baik," Tulisnya dalam makalah tersebut
Bagaimana mencegah AGI lepas kendali?
