Para Pemimpin Industri Khawatirkan AI Bisa Sebabkan Kepunahan Manusia, Setara dengan Perang Nuklir

Pada Selasa (30/5/2023), sekelompok pemimpin industri memperingatkan tentang teknologi kecerdasan buatan yang mereka bangun suatu hari nanti, dapat menimbulkan ancaman eksistensial bagi umat manusia. Mereka bersepakat kalau Artificial Intelligence (AI) harus dianggap sebagai risiko sosial yang setara dengan pandemi dan perang nuklir.

Sebuah organisasi nirlaba, Pusat Keamanan AI (Center for AI Safety) menuliskan sebuah pernyataan berikut: "Mengurangi risiko kepunahan dari AI harus menjadi prioritas global di samping risiko skala sosial lainnya, seperti pandemi dan perang nuklir," demikian bunyi pernyataan yang kami kutip dari The New York Times, Rabu (31/5/2023).

Pernyataan dalam bentuk surat terbuka tersebut ditandatangani oleh lebih dari 350 eksekutif, peneliti dan insinyur yang bekerja di bidang AI. Yang menandatangani termasuk eksekutif puncak seperti Sam Altman, kepala eksekutif OpenAI; Demis Hassabis, kepala eksekutif Google DeepMind; dan Dario Amodei, CEO Anthropic.

Geoffrey Hinton dan Yoshua Bengio -dua dari tiga peneliti yang memenangkan Penghargaan Turing untuk karya rintisan mereka pada jaringan saraf dan sering dianggap sebagai 'ayah baptis' gerakan AI-, turut menandatangani pernyataan itu.

New York Times melaporkan, pernyataan itu muncul pada saat meningkatnya kekhawatiran tentang potensi bahaya kecerdasan buatan. Kemajuan terbaru dalam apa yang disebut model bahasa besar -jenis sistem AI seperti yang digunakan oleh ChatGPT dan chatbot lainnya-, telah menimbulkan kekhawatiran. Yakni, bahwa AI dapat segera digunakan dalam skala besar untuk menyebarkan informasi dan propaganda yang salah, atau dapat menghilangkan jutaan pekerjaan kerah putih.

Akhirnya, beberapa pihak percaya, AI bisa menjadi cukup kuat sehingga dapat menciptakan gangguan skala sosial dalam beberapa tahun jika tidak ada yang dilakukan untuk memperlambatnya. Meskipun para peneliti terkadang berhenti menjelaskan bagaimana hal itu akan terjadi.

Ketakutan ini juga dialami oleh banyak pemimpin industri, menempatkan mereka pada posisi yang tidak biasa. Mereka menyatakan bahwa teknologi yang mereka bangun - dan, dalam banyak kasus, berlomba-lomba untuk membangun lebih cepat daripada pesaing mereka- menimbulkan risiko besar dan harus diatur lebih ketat.

Bulan ini, Altman, Hassabis, dan Amodei bertemu dengan Presiden Biden dan Wakil Presiden Kamala Harris untuk membicarakan tentang regulasi AI. Dalam kesaksian Senat setelah rapat, Altman memperingatkan bahwa risiko sistem AI cukup serius untuk menjamin intervensi pemerintah, dan menyerukan regulasi AI atas potensi bahayanya.

Direktur eksekutif Center for AI Safety, Dan Hendrycks, mengatakan surat terbuka tersebut mewakili pengungkapan beberapa pemimpin industri yang telah menyatakan keprihatinan mereka, tentang risiko teknologi yang mereka gunakan dan kembangkan; tetapi hanya secara pribadi.

"Ada kesalahpahaman yang sangat umum, bahkan di tengah masyarakat, perihal hanya ada segelintir orang yang malapetaka. Namun, pada kenyataannya, banyak orang yang secara pribadi mengungkapkan keprihatinan tentang hal-hal ini," tuturnya.

Beberapa orang yang skeptis berpendapat bahwa AI masih 'terlalu muda' untuk menimbulkan ancaman eksistensial. Ketika berbicara tentang sistem AI, mereka ini lebih mengkhawatirkan masalah jangka pendek, seperti tanggapan yang bias dan salah, daripada bahaya jangka panjang.

Tetapi yang lain berpendapat, peningkatan AI begitu cepat sehingga telah melampaui kinerja tingkat manusia di beberapa area, dan akan segera melampauinya di area lain. Mereka mengatakan teknologi tersebut telah menunjukkan tanda-tanda kemampuan dan pemahaman yang maju, menimbulkan kekhawatiran 'kecerdasan umum buatan dapat menandingi atau melampaui kinerja tingkat manusia pada berbagai tugas, mungkin tidak jauh'.

Altman dan dua eksekutif OpenAI lainnya mengusulkan beberapa cara agar AI dapat dikelola secara bertanggung jawab. Mereka menyerukan kerja sama di antara pengembang AI, lebih banyak penelitian teknis ke dalam model bahasa besar dan pembentukan organisasi keselamatan, mirip dengan Badan Energi Atom Internasional, yang berusaha untuk mengontrol penggunaan senjata nuklir.

Altman juga telah menyatakan dukungan, untuk aturan yang akan membutuhkan pembuat model AI agar mendaftar lisensi yang dikeluarkan pemerintah.

Mitigasi Potensi Bahaya Kecerdasan Buatan Harus Dimulai dari Sekarang

Pernyataan yang diterbitkan Center for AI Safety, secara singkat bisa dikatakan memiliki inti dalam 22 kata saja. Dimaksudkan untuk menyatukan ahli AI yang mungkin tidak setuju tentang sifat risiko tertentu, atau langkah-langkah pencegahan dari keprihatinan atas sistem AI.

Pernyataan itu awalnya dibagikan dengan beberapa ahli AI, termasuk Hinton, yang kabarnya berhenti dari pekerjaannya di Google bulan ini, agar dia dapat berbicara lebih bebas tentang potensi bahaya kecerdasan buatan.

"Urgensi peringatan atas AI dari para pemimpin telah meningkat, karena jutaan orang beralih ke chatbot AI untuk hiburan, persahabatan, dan peningkatan produktivitas, dan karena teknologi yang mendasarinya meningkat dengan sangat cepat," tulis New York Times lagi.

Altman berkata kepada subkomite senat, "Saya pikir jika teknologi ini salah, itu bisa salah. Kami ingin bekerja sama dengan pemerintah untuk mencegah hal itu terjadi," lanjut Altman.

Dengan banyaknya pendapat yang beredar, pernyataan baru dan singkat ini dimaksudkan untuk menunjukkan keprihatinan bersama seputar risiko AI, bahkan jika para pihak tidak menyetujui apa itu.

"Pakar AI, jurnalis, pembuat kebijakan, dan masyarakat semakin banyak membahas spektrum luas tentang risiko penting dan mendesak dari AI. Meski begitu, mungkin sulit untuk menyuarakan kekhawatiran tentang beberapa risiko AI tingkat lanjut yang paling parah," kutip Engadget atas isi pernyataan.