Level Selanjutnya yang Lebih Canggih Dari AI, Siapkah Umat Manusia dengan AGI?

Teknodaily – Kehadiran kecerdasan buatan atau artificial intelligence (AI) seolah menjadi teribosan baru dalam dunia teknologi.

Kini para pakar memprediksi kehadiran artificial general intelligence yang diprediksi akan semakin lebih canggih lagi.

Kecerdasan buatan (AI) terus menjadi perhatian tahun ini seiring kemunculan ChatGPT, mesin pencari yang bisa merilis chatbot AI sendiri, serta ramainya pengguna AI yang semakin dimudahkan untuk membuat gambar, audio, dan video dari nol.

Namun, perusahaan dan pakar AI justru mulai mengalihkan perhatian ke hal baru, yang dikenal sebagai kecerdasan umum buatan atau artificial general intelligence (AGI).

Beberapa pihak menyebut AGI sebagai sistem AI akan memiliki kecerdasan yang sama dengan manusia (bahkan lebih cerdas).

Apa itu AGI?

AGI belum menjadi kenyataan, dan masih terdengar seperti fiksi ilmiah. Pada dasarnya, ini adalah konsep AI yang mencapai tingkat kecerdasan setara atau lebih tinggi dari manusia.

Perusahaan Amerika, OpenAI, yang menciptakan ChatGPT dan image generatoe AI yang populer DALL.E 2,menggambarkan AGI sebagai sistem yang sangat otonom, mengungguli manusia dalam pekerjaan yang paling berharga secara ekonomi.

Sistem ini diprediksi dapat memecahkan masalah dan melakukan hal-hal rumit sambil beradaptasi dengan lingkungannya serta meningkatkan pengetahuan dan keterampilan mereka sendiri.

Tak hanya AGI, namun ada juga konsep artificial superintelligence (ASI), dengan sistem kemampuan intelektual yang jauh lebih besar daripada manusia.

Beberapa pakar berpendapat bahwa teknologi ini tidak akan tercapai, tapi sejumlah pihak bersemangat sekaligus khawatir tentang bagaimana teknologi ini mengubah dunia.

Berisiko luar biasa bagi manusia

Sam Altman, CEO OpenAI telah memperingatkan tentang "risiko besar" AGI, termasuk penyalahgunaan, kecelakaan drastis dan gangguan sosial. Dia memprediksi AGI bisa terwujud dalam satu dekade mendatang.

"AGI awalnya hanya akan menjadi satu titik di sepanjang kontinum intelijen. Kemungkinan perkembangannya akan berlanjut dari sana." ujarnya

"Jika terwujud, dunia akan menjadi sangat berbeda, dan risikonya bisa luar biasa. AGI yang tidak selaras dapat menyebabkan kerusakan parah pada dunia; rezim otokratis dengan pimpinan superintelijen yang menentukan juga bisa melakukannya. Ada pakar AI yang menganggap risiko AGI adalah fiktif; kita senang jika ternyata dia benar, tapi kami akan tetap beroperasi seolah-olah risiko ini ada," jelas Sam Altman. 

Bulan lalu, co-founder OpenAI, Elon Musk, yang tidak lagi berafiliasi dengan perusahaan ini, mengatakan AGI telah membuatnya mengalami "kecemasan eksistensial".

Tidak mengherankan, mengingat konsep AGI membuat para pakar mempertimbangkan potensi skenario negatif, semisal, AGI dalam bidang kesehatan bisa memutuskan untuk tidak merawat lansia demi mengoptimalkan kesehatan penduduk usia muda.

AGI bertugas menghasilkan uang yang dengan cepat dan bisa saja menggantikan semua pekerja manusia sehingga menyebabkan PHK massal

AGI yang dibuat oleh negara menggunakan kemampuannya, dikhawatirkan menghancurkan pertahanan dunia maya negara lain

AGI bidang pertahanan bisa saja memutuskan menduduki suatu kota untuk membunuh target bernilai tinggi, sehingga terdengar seperti adegan film The Terminator

Bahkan ada yang memprediksi bahwa AGI dapat digunakan untuk memerintahkan prajurit manusia dalam perang.

Robert Sparrow dari Monash University dan Adam Henschke dari University of Twente dalam sebuah makalahnya menyebutkan, karena skenario perang seperti itu mungkin terjadi, muncul kekhawatiran etis apakah AI harus diberi wewenang untuk mengirim manusia ke potensi kematian mereka.

"Akhirnya, mengejar kemenangan mungkin membutuhkan penyerahan komando ke mesin dan kemenangan dapat ditentukan oleh kekuatan mana yang memiliki AI yang lebih baik," Tulisnya dalam makalah tersebut

Bagaimana mencegah AGI lepas kendali?

Profesor Paul Salmon dari Queensland's University of the Sunshine Coast setuju bahwa AGI menimbulkan risiko eksistensial bagi manusia.

Dia menyarankan kita bertindak mulai sekarang untuk mempersiapkan kedatangan AGI, meskipun itu dipredijksi dalam beberapa dekade lagi.

"Jika kita baru mulai mengkhawatirkan AGI saat sudah muncul, itu sudah terlambat. Kita perlu memahami bagaimana merancang AGI agar aman, etis, dan dapat digunakan. Bagaimana mengelola risiko dan bagaimana mengendalikannya," ujar Prof Salmon.

Dalam posting blognya bulan lalu, Sam Altman dari OpenAI memaparkan rencana perusahaannya untuk pengembangan AGI. Dia mengatakan OpenAI semakin berhati-hati dengan merilis model AI-nya saat AGI semakin dekat.

Perusahaannya, katanya, memiliki klausul tentang membantu organisasi lain meningkatkan keselamatan daripada berlomba dengan mereka dalam pengembangan AGI tahap akhir.

Menurut Sam Altman, OpenAI yang terdiri dari anak-anak perusahaan nirlaba memiliki batas pengembalian, sehingga perusahaan selalu terikat dengan risiko dalam menyebarkan sesuatu yang berpotensi berbahaya.

Menteri industri dan sains Australia, Ed Husic, mengatakan pihaknya telah meminta Dewan Sains dan Teknologi Nasional untuk mempertimbangkan pengembangan AI, memikirkan implikasinya dan bagaimana pemerintah harus merespons. "Kita ingin teknologi bekerja untuk kita, bukan sebaliknya," katanya.

Pusat AI Nasional dari lembaga penelitian CSIRO telah memberi saran kepada pemerintah tentang kerangka kerja AI yang bertanggung jawab.

Perusahaan AI Optimis

Elon Musk mengaku meskipun memiliki kecemasan atas pengembangan AGI, dia bersemangat untuk menyaksikan hal itu terwujud dalam hidupnya.

Sementara Sam Altman menyebut teknologi AGI berpotensi memberikan kemampuan baru biasa kepada semua orang untuk membantu tugas-tugas kognitif.

"Jika AGI berhasil diwujudkan, teknologi ini dapat membantu kemanusiaan dengan meningkatkan kesejahteraan, mempercepat ekonomi global, dan membantu penemuan ilmiah baru yang mengubah batas kemungkinan. Kita membayangkan sebuah dunia di mana umat manusia berkembang ke tingkat yang mungkin belum bisa kita bayangkan sepenuhnya," jelasnya.

Seorang pengacara dari Komisi Perdagangan Federal AS menulis bahwa AI adalah "istilah pemasaran", dan memperingatkan kalangan perusahaan untuk berhati-hati menggunakannya.

"Kita belum hidup dalam dunia fiksi ilmiah, di mana komputer secara umum dapat membuat prediksi perilaku manusia yang dapat dipercaya," kata pengacara btersebut.

Sedangkan pendiri Microsoft, Bill Gates mengenai hal ini mengatakan belum ada terobosan dalam beberapa bulan terakhir yang membuat kita semakin dekat mewujudkan AGI.

Namun Profesor Salmon tetap optimis jika masyarakat mempersiapkan diri dengan baik untuk kehadiran AGI, hal itu dapat memberikan dampak positif. "Jika kita mengambil pendekatan proaktif untuk merancang kontrol, tidak ada keraguan bahwa manfaatnya bagi umat manusia bisa sangat besar," jelasnya.

Sam Altman sependapat, tapi mengakui bahwa membuat dan mengelola AGI adalah pekerjaan yang sangat besar.

"Berhasil bertransisi ke dunia dengan kecerdasan super mungkin merupakan proyek yang terpenting,penuh harapan dan paling menakutkan dalam sejarah manusia,".

(Sumber ABC News)