5 Risiko Ancaman Bencana dari Kecerdasan Buatan

Techverse.asia - The Institute of Management Development (IMD) dan tim ahli dari Tonomus Global Center for Digital and AI Transformation membuat fitur bernama AI Safety Clock atau jam keamanan kecerdasan buatan (AI).

AI Safety Clock ini dibuat guna meningkatkan kesadaran dan diskusi konstruktif bagi publik, pembuat kebijakan, dan pemimpin bisnis tentang keamanan AI. Jam keamanan AI dibuat dengan membuat analisis terhadap teknologi dan pengumuman dari lebih dari 3.500 perusahaan dan pemerintah di seluruh dunia.

Jam ini menjadi indikator seberapa tinggi risiko perkembangan Kecerdasan Buatan Umum (Artificial General Intelligence/AGI) hingga menjadi tidak terkendali. AGI merupakan sistem kecerdasan buatan yang bisa beroperasi mandiri tanpa bantuan dan pengawasan manusia, sehingga berpotensi membahayakan.

Lalu seberapa berbahaya ancaman AI bagi umat manusia saat ini? Menurut Michael Wade selaku Director Global Center for Digital Business Transformation IMD, terdapat empat fase risiko AGI yang tidak terkendali, yakni risiko rendah, sedang, tinggi, dan kritis.

Saat ini, dunia mulai memasuki fase risiko tinggi. "Perkembangan AGI saat ini kita sedang beralih dari fase risiko sedang ke risiko tinggi. Ketika perkembagan AGI menjadi kritis dan tidak terkendali, hal itu akan menjadi musibah bagi umat manusia. Risikonya serius, tetapi belum terlambat untuk bertindak," jelas Wade pada Minggu (6/10/2024).

Menurutnya, dengan regulasi yang efektif dan terpadu bisa membatasi risiko terburuk perkembangan teknologi ini tanpa mengurangi manfaatnya. Untuk itu, jawatannya menyerukan kepada para pelaku internasional dan perusahaan teknologi raksasa untuk melakukan pencegahan demi kebaikan kita semua.

Ketika perkembangan AGI menjadi tidak lagi bisa dikendalikan manusia, maka hal ini bisa menjadi musibah bagi dunia, contohnya:

Ketika AI mengambil alih dan mengendalikan persenjataan konvensional, mulai dari senjata nuklir, biologi, atau kimia. China saat ini sedang mempercepat komersialisasi robot humanoid, termasuk penerapannya di infrastruktur sensitif seperti jaringan listrik dan pembangkit listrik tenaga nuklir;
AI digunakan untuk memanipulasi atau mengganggu pasar keuangan;
AI dipakai memanipulasi atau mengganggu infrastruktur penting, seperti energi, transportasi, komunikasi, air, dan lain-lain;
Penggunaan AI untuk manipulasi atau mengganggu sistem politik, jaringan sosial, dan ekosistem biologis dan lingkungan;
Ancaman langsung AI terhadap nyawa manusia.

AI berisiko tinggi

Ada dua perkembangan AI yang mendorong peningkatan risiko dari sedang menjadi tinggi: AI multimoda (AI multimodal) dan AI agen (agentic AI). AI multimoda bisa memproses dan mengintegrasikan beberapa jenis input, seperti teks, gambar, audio, untuk menyelesaikan tugas yang lebih kompleks, contohnya adalah GPT-4o, Gemini Ultra, dan Pixtral 12B.

Sementara AI agen mengacu pada sistem kecerdasan buatan yang mampu merencanakan, bertindak, dan membuat keputusan secara otonom. Kekinian AI agen tengah berkembang pesat.

"Perkembangan AI agen memang mendorong kemajuan AGI, namun berpotensi menjadi bencana ketika sistem ini menjadi tidak terkendali setelah digabungkan dengan teknologi lain," ungkapnya.

Contoh lainnya adalah perkembangan robot humanoid yang ditenagai oleh AI generatif. AI generatif digunakan agar robot humanoid ini bisa beroperasi dan mengambil keputusan secara mandiri.

Nvidia pun tengah bermitra dengan perusahaan robotika untuk mengembangkan model dasar untuk robot humanoid semacam ini. Kemajuan teknologi ini memang menarik, tetapi bisa menjadi ancaman tersembunyi bagi manusia.

"Pengawasan yang cermat dan manajemen yang bertanggung jawab penting agar penerapan AI lebih aman dan tidak menjadi senjata makan tuan," katanya.