Level Selanjutnya yang Lebih Canggih Dari AI, Siapkah Umat Manusia dengan AGI?
- pixabay
Profesor Paul Salmon dari Queensland's University of the Sunshine Coast setuju bahwa AGI menimbulkan risiko eksistensial bagi manusia.
Dia menyarankan kita bertindak mulai sekarang untuk mempersiapkan kedatangan AGI, meskipun itu dipredijksi dalam beberapa dekade lagi.
"Jika kita baru mulai mengkhawatirkan AGI saat sudah muncul, itu sudah terlambat. Kita perlu memahami bagaimana merancang AGI agar aman, etis, dan dapat digunakan. Bagaimana mengelola risiko dan bagaimana mengendalikannya," ujar Prof Salmon.
Dalam posting blognya bulan lalu, Sam Altman dari OpenAI memaparkan rencana perusahaannya untuk pengembangan AGI. Dia mengatakan OpenAI semakin berhati-hati dengan merilis model AI-nya saat AGI semakin dekat.
Perusahaannya, katanya, memiliki klausul tentang membantu organisasi lain meningkatkan keselamatan daripada berlomba dengan mereka dalam pengembangan AGI tahap akhir.
Menurut Sam Altman, OpenAI yang terdiri dari anak-anak perusahaan nirlaba memiliki batas pengembalian, sehingga perusahaan selalu terikat dengan risiko dalam menyebarkan sesuatu yang berpotensi berbahaya.
Menteri industri dan sains Australia, Ed Husic, mengatakan pihaknya telah meminta Dewan Sains dan Teknologi Nasional untuk mempertimbangkan pengembangan AI, memikirkan implikasinya dan bagaimana pemerintah harus merespons. "Kita ingin teknologi bekerja untuk kita, bukan sebaliknya," katanya.
Pusat AI Nasional dari lembaga penelitian CSIRO telah memberi saran kepada pemerintah tentang kerangka kerja AI yang bertanggung jawab.
