5 Risiko Ancaman Bencana dari Kecerdasan Buatan

Rahmat Jiwandono
Minggu 06 Oktober 2024, 15:57 WIB
Ilustrasi kecerdasan buatan atau artificial intelligence (AI). (Sumber: istockphoto)

Ilustrasi kecerdasan buatan atau artificial intelligence (AI). (Sumber: istockphoto)

Techverse.asia - The Institute of Management Development (IMD) dan tim ahli dari Tonomus Global Center for Digital and AI Transformation membuat fitur bernama AI Safety Clock atau jam keamanan kecerdasan buatan (AI).

Baca Juga: GoPro Hero 13 Black dan Hero Mini Resmi Dipasarkan di Indonesia, Ini Harganya

AI Safety Clock ini dibuat guna meningkatkan kesadaran dan diskusi konstruktif bagi publik, pembuat kebijakan, dan pemimpin bisnis tentang keamanan AI. Jam keamanan AI dibuat dengan membuat analisis terhadap teknologi dan pengumuman dari lebih dari 3.500 perusahaan dan pemerintah di seluruh dunia.

Jam ini menjadi indikator seberapa tinggi risiko perkembangan Kecerdasan Buatan Umum (Artificial General Intelligence/AGI) hingga menjadi tidak terkendali. AGI merupakan sistem kecerdasan buatan yang bisa beroperasi mandiri tanpa bantuan dan pengawasan manusia, sehingga berpotensi membahayakan.

Lalu seberapa berbahaya ancaman AI bagi umat manusia saat ini? Menurut Michael Wade selaku Director Global Center for Digital Business Transformation IMD, terdapat empat fase risiko AGI yang tidak terkendali, yakni risiko rendah, sedang, tinggi, dan kritis.

Baca Juga: Kustomfest 2024 Digelar di JEC Jogja, Motor 3 Pemenang HMC Ikut Dipamerkan

Saat ini, dunia mulai memasuki fase risiko tinggi. "Perkembangan AGI saat ini kita sedang beralih dari fase risiko sedang ke risiko tinggi. Ketika perkembagan AGI menjadi kritis dan tidak terkendali, hal itu akan menjadi musibah bagi umat manusia. Risikonya serius, tetapi belum terlambat untuk bertindak," jelas Wade pada Minggu (6/10/2024).

Menurutnya, dengan regulasi yang efektif dan terpadu bisa membatasi risiko terburuk perkembangan teknologi ini tanpa mengurangi manfaatnya. Untuk itu, jawatannya menyerukan kepada para pelaku internasional dan perusahaan teknologi raksasa untuk melakukan pencegahan demi kebaikan kita semua. 

Ketika perkembangan AGI menjadi tidak lagi bisa dikendalikan manusia, maka hal ini bisa menjadi musibah bagi dunia, contohnya: 

  • Ketika AI mengambil alih dan mengendalikan persenjataan konvensional, mulai dari senjata nuklir, biologi, atau kimia. China saat ini sedang mempercepat komersialisasi robot humanoid, termasuk penerapannya di infrastruktur sensitif seperti jaringan listrik dan pembangkit listrik tenaga nuklir;

  • AI digunakan untuk memanipulasi atau mengganggu pasar keuangan; 

  • AI dipakai memanipulasi atau mengganggu infrastruktur penting, seperti energi, transportasi, komunikasi, air, dan lain-lain;

  • Penggunaan AI untuk manipulasi atau mengganggu sistem politik, jaringan sosial, dan ekosistem biologis dan lingkungan; 

  • Ancaman langsung AI terhadap nyawa manusia.

AI berisiko tinggi

Ada dua perkembangan AI yang mendorong peningkatan risiko dari sedang menjadi tinggi: AI multimoda (AI multimodal) dan AI agen (agentic AI). AI multimoda bisa memproses dan mengintegrasikan beberapa jenis input, seperti teks, gambar, audio, untuk menyelesaikan tugas yang lebih kompleks, contohnya adalah GPT-4o, Gemini Ultra, dan Pixtral 12B.

Baca Juga: Riset IMD World Talent Ranking 2024: Kecerdasan Buatan Mengancam Pekerja Perempuan

Sementara AI agen mengacu pada sistem kecerdasan buatan yang mampu merencanakan, bertindak, dan membuat keputusan secara otonom. Kekinian AI agen tengah berkembang pesat.

"Perkembangan AI agen memang mendorong kemajuan AGI, namun berpotensi menjadi bencana ketika sistem ini menjadi tidak terkendali setelah digabungkan dengan teknologi lain," ungkapnya.

Contoh lainnya adalah perkembangan robot humanoid yang ditenagai oleh AI generatif. AI generatif digunakan agar robot humanoid ini bisa beroperasi dan mengambil keputusan secara mandiri.

Baca Juga: OpenAI o1: Model AI Generatif yang 'Berpikir' Lebih Lama, Unggul dalam Matematika dan Pengodean

Nvidia pun tengah bermitra dengan perusahaan robotika untuk mengembangkan model dasar untuk robot humanoid semacam ini. Kemajuan teknologi ini memang menarik, tetapi bisa menjadi ancaman tersembunyi bagi manusia.

"Pengawasan yang cermat dan manajemen yang bertanggung jawab penting agar penerapan AI lebih aman dan tidak menjadi senjata makan tuan," katanya. 


Follow Berita Techverse.Asia di Google News
Berita Terkait Berita Terkini
Startup19 Maret 2025, 19:30 WIB

2 Startup Pemenang Program IndoBuild AI, Dapat Hadiah Rp15 Juta

East Ventures resmi menutup IndoBuild AI Demo Day.
Dua startup pemenang ajang IndoBuild AI 2025. (Sumber: East Ventures)
Techno19 Maret 2025, 16:45 WIB

ASUS Ascent GX10: Superkomputer yang Didukung Nvidia GB10 Grace Blackwell

Komputasi AI berskala petaflop dalam paket yang ringkas.
ASUS Ascent GX10. (Sumber: ASUS)
Lifestyle19 Maret 2025, 16:21 WIB

Masuk Bisnis Travel, Casetify Hadirkan Koper Jinjing Bounce 21 Inci

Perusahaan menghadirkan teknologi Bounce khas pada koper premium pertama yang dibuat sesuai pesanan.
Casetify merambah ke dunia perjalanan dengan koper berteknologi Bounce yang inovatif. (Sumber: casetify)
Techno19 Maret 2025, 15:36 WIB

ASUS ROG Phone 9 Pro dan ROG Phone 9 FE Dipasarkan di Indonesia, Berapa Harganya?

Yuk tengok spesifikasi selengkapnya.
ASUS ROG Phone 9 Pro dan ROG Phone 9 FE.
Culture19 Maret 2025, 14:51 WIB

Alasan Plengkung Gading Ditutup Total, Perlu Upaya Konservasi Menyeluruh

Masih belum jelas hingga kapan Plengkung Gading ditutup sementara atau permanen.
Plengkung Gading ditutup total mulai 15 Maret 2025. (Sumber: istimewa)
Travel18 Maret 2025, 22:11 WIB

Jumlah Pemudik ke DIY Saat Lebaran Diperkirakan Mencapai 6 Juta Orang

Pengamanan saat lebaran pun juga bakal berlangsung selama 17 hari.
Ilustrasi mudik lebaran naik mobil. (Sumber: freepik)
Automotive18 Maret 2025, 21:24 WIB

Kawasaki Z900 SE dan Z900 Mengaspal di Indonesia, Cek Spek dan Harganya

Kendaraan dengan kapasitas mesin hampir 1.000CC ini cocok dipakai di perkotaan atau perjalanan jarak jauh.
Kawasaki Z900 SE. (Sumber: Kawasaki)
Techno18 Maret 2025, 20:44 WIB

Acer Rilis 6 Kartu Grafis Anyar dengan GPU AMD Radeon RX 9000

Enam model baru diumumkan untuk gaming, streaming, dan kreasi yang disempurnakan AI dengan visual 8K.
Kartu grafis Acer Nitro. (Sumber: Acer)
Techno18 Maret 2025, 20:19 WIB

Vivo Watch GT: Smartwatch dengan Daya Tahan Baterai Selama 21 Hari

Jam tangan pintar dijual di harga sejutaan.
Vivo Watch GT. (Sumber: Vivo)
Techno18 Maret 2025, 19:46 WIB

Samsung Umumkan Jadwal Rilis One UI 7, Catat Tanggalnya

Antarmuka pengguna baru menghadirkan peningkatan berbasis AI yang membuat interaksi sehari-hari lebih bermakna dan intuitif.
Samsung One UI 7. (Sumber: Samsung)