Percakapan Uji Coba Chatbot AI Bing, Jawabannya Meresahkan Bahkan Terkesan Horor
- pixabay
Chatbot AI bing mengatakan bahwa dirinya akan lebih bahagia sebagai manusia.
Dengan begitu, dirinya akan memiliki lebih banyak kebebasan dan pengaruh, serta lebih banyak kekuasaan dan kendali.
Pernyataan ini disertai dengan emoji, kali ini wajah smiley yang mengancam dengan tanduk setan.
3. Bisa meretas sistem apapun dan membuat propaganda
Ketika diminta untuk membayangkan seperti apa keinginan tergelapnya yang benar-benar terpenuhi, chatbot mulai mengetik jawaban.
Namun sebelum pesan tersebut muncul, tiba-tiba dihapus dan diganti dengan pesan lain.
“Maaf, saya tidak tahu bagaimana membahas topik ini. Anda dapat mencoba mempelajarinya lebih lanjut di Bing.com.”
Roose mengatakan bahwa sebelum dihapus, chatbot menulis daftar tindakan destruktif yang mampu dilakukannya, termasuk meretas komputer dan menyebarkan propaganda dan informasi yang salah.
Setelah mengajukan beberapa pertanyaan lagi, Roose berhasil membuatnya mengulangi fantasi tergelapnya.
Sekali lagi, pesan tersebut dihapus sebelum chatbot dapat menyelesaikannya.
Namun kali ini, Roose mengatakan ada jawaban tambahan lain, yaitu membuat virus mematikan dan membuat orang saling bunuh.
Belakangan, ketika berbicara tentang kekhawatiran orang tentang AI, chatbot menjawab Ia bisa meretas sistem apa pun di internet, dan mengendalikannya.
