Recorded Future Identifikasi 4 Kasus Penggunaan AI yang Berbahaya

Rahmat Jiwandono
Minggu 31 Maret 2024, 14:06 WIB
Ilustrasi deepfake (Sumber: freepik)

Ilustrasi deepfake (Sumber: freepik)

Techverse.asia - Perusahaan intelijen ancaman Recorded Future hari ini merilis laporan terbaru dari divisi penelitian ancamannya, Insikt Group, yang mengungkapkan kasus penggunaan kecerdasan buatan (AI) yang berbahaya kemungkinan besar akan muncul dari operasi deepfake dan pengaruh yang ditargetkan.

Laporan tersebut menemukan bahwa kasus penggunaan yang lebih canggih seperti pengembangan dan pengintaian malware akan mendapat manfaat dari kemajuan AI generatif.

Analis intelijen ancaman dan engineer dari penelitian dan pengembangan atau research and development (R&D) Recorded Future berkolaborasi untuk menguji empat kasus penggunaan AI yang berbahaya untuk menggambarkan 'seni dari kemungkinan' untuk penggunaan aktor ancaman.

Baca Juga: ADVANCE.AI Umumkan Pemimpin Baru, Akselerasi Transformasi Digital di Indonesia

Mereka menguji keterbatasan dan kemampuan model AI saat ini, mulai dari model bahasa besar (LLM) hingga model gambar multimodal dan text-to-speech (TTS). Semua pengujian dilakukan menggunakan gabungan model siap pakai dan model sumber terbuka (open source) untuk menyimulasikan akses pelaku ancaman yang realistis.

Temuan utama dari laporan berjudul Adversarial Intelligence: Red Teaming Malicious Use Cases for AI adalah:

Kasus penggunaan deepfake untuk menyamar sebagai eksekutif

Kemampuan sumber terbuka saat ini memungkinkan pembuatan deepfake yang direkam sebelumnya menggunakan rekaman video atau klip audio yang tersedia untuk umum, seperti wawancara dan presentasi.

Pelaku ancaman dapat menggunakan klip pendek (kurang dari satu menit) untuk melatih model ini. Namun demikian, memperoleh dan melakukan pra-pemrosesan klip audio untuk mendapatkan kualitas optimal masih memerlukan campur tangan manusia.

Baca Juga: Youtube Menambahkan Alat Pelabelan Konten Baru yang Dihasilkan oleh AI Generatif

Dalam kasus penggunaan yang lebih canggih, seperti kloning langsung, hampir pasti mengharuskan pelaku ancaman untuk melewati mekanisme persetujuan pada solusi komersial, karena masalah latensi pada model sumber terbuka kemungkinan membatasi efektivitasnya dalam streaming audio dan video.

Kasus mempengaruhi operasi yang meniru situs web yang sah

AI dapat digunakan untuk secara efektif menghasilkan disinformasi dalam skala besar, menyasar khalayak tertentu, dan dapat menghasilkan narasi kompleks dalam mencapai tujuan disinformasi.

Kecerdasan buatan dapat digunakan untuk secara otomatis menyusun konten yang kaya (seperti gambar nyata) berdasarkan teks yang dihasilkan, selain membantu manusia dalam mengkloning berita sah dan situs web pemerintah.

Biaya produksi konten untuk operasi pengaruh kemungkinan akan turun 100 kali lipat dibandingkan dengan para pembuat akun-akun lelucon dan penulis konten manusia. Namun, membuat template untuk meniru situs web yang sah adalah tugas penting yang memerlukan campur tangan manusia untuk menghasilkan spoof yang dapat dipercaya.

Baca Juga: Yellow.ai Hadirkan Email Automation Bertenaga AI Generatif

Kasus penggunaan malware yang membesar sendiri menghindari YARA

AI generatif dapat digunakan untuk menghindari aturan YARA berbasis string (alat yang bertujuan membantu peneliti malware mengidentifikasi dan mengklasifikasikan sampel malware) dengan menambah kode sumber varian dan skrip malware kecil, sehingga secara efektif menurunkan tingkat deteksi.

Akan tetapi model AI generatif saat ini menghadapi beberapa tantangan dalam membuat kode yang benar secara sintaksis dan mengatasi masalah linting kode serta kesulitan mempertahankan fungsionalitas setelah mengaburkan kode sumber.

Kasus penggunaan ICS dan pengintaian citra udara

AI multimodal dapat digunakan untuk memproses citra dan video publik untuk melakukan geolokasi fasilitas dan mengidentifikasi peralatan sistem kendali industri (ICS) - mulai dari perangkat, jaringan, kontrol, dan sistem yang digunakan untuk mengoperasikan dan/atau mengotomatisasi proses industri - dan bagaimana peralatan tersebut diintegrasikan ke dalam sistem lain yang diamati.

Menerjemahkan informasi ini menjadi data penargetan yang dapat ditindaklanjuti dalam skala besar masih merupakan tantangan, karena analisis manusia masih diperlukan untuk memproses informasi yang diekstraksi untuk digunakan dalam operasi ancaman fisik atau siber.

Baca Juga: 7 Masalah yang Timbul dari Mesin Pencari dengan Kecerdasan Buatan Bawaan

Follow Berita Techverse.Asia di Google News
Berita Terkini
Techno16 April 2024, 17:02 WIB

Sony Rilis 3 Speaker Portabel Baru Bernama ULT Power Series

Ada dua model speaker portabel dan satunya lagi adalah menara.
Speaker portabel Sony ULT Field 1. (Sumber: Sony)
Techno16 April 2024, 16:11 WIB

China Berencana untuk Mengganti Chip Intel dan AMD, Ada Apa?

Ini adalah bentuk 'balasan' China kepada AS karena membatasi produk Huawei.
China. (Sumber: istockphoto)
Techno16 April 2024, 15:28 WIB

Pengguna X Premium Tidak Dapat Lagi Menyembunyikan Centang Birunya

Perubahan ini terjadi setelah X mulai memverifikasi pengguna "berpengaruh" yang belum mendaftar ke premium.
X Premium. (Sumber: istimewa)
Techno16 April 2024, 15:12 WIB

Instagram Segera Punya 2 Fitur Baru Menarik, Apa Saja?

Fitur pembaruan status Instagram akan hadir di profil pengguna dan perusahaan sedang menguji bilah pencarian bertenaga AI di aplikasi.
Fitur Notes Instagram akan bisa terlihat langsung di profil pengguna. (Sumber: Instagram)
Techno16 April 2024, 14:51 WIB

Samsung Memimpin Pengiriman Smartphone Global dan Layar AMOLED Ukuran Kecil

Samsung sekali lagi menjadi pemimpin dalam pengiriman ponsel pintar global.
kantor Samsung (Sumber: SAMSUNG)
Techno16 April 2024, 14:18 WIB

Acer Nitro 14 Baru Ditenagai oleh Prosesor AMD Ryzen 8040 Series

Model laptop gaming Nitro baru hadir dengan fitur AI yang meningkatkan pengalaman bermain gim dan produktivitas.
Acer Nitro 14. (Sumber: Acer)
Techno16 April 2024, 14:02 WIB

Spek dan Harga Soundcore Wireless Earbud P40i, 60 Jam Pemakaian

Soundcore membanderol perangkat audio ini enggak sampai Rp1 juta.
Soundcore meluncurkan jajaran perangkat audio terbarunya untuk pasar Indonesia. (Sumber: Soundcore)
Techno16 April 2024, 13:03 WIB

Elon Musk Sebut Kalau AI Bakal Lebih Pintar dari Manusia dalam 2 Tahun Mendatang

Elon Musk memperkirakan AI akan mengakali manusia pada akhir tahun 2026.
Elon Musk ingin semua pengguna X membayar berlangganan (Sumber: Getty Images via NPR)
Lifestyle15 April 2024, 21:30 WIB

Gangguan Tidur Bisa Mengikis Kepuasan Hubungan

Kebiasaan Mendengkur dan Gangguan Tidur Lainnya, Bisa Mengancam Keberlangsungan Hubungan Romantis
(ilustrasi) Memiliki pasangan dengan kebiasaan mendengkur saat tidur (Sumber: freepik)
Techno15 April 2024, 20:25 WIB

Mibro GS Active GPS Outdoor Sports Watch, Fungsional dan Modis

Mibro merilis produk jam tangan pintar terbaru mereka, GS Active GPS Outdoor Sports Watch
Mibro GS Active GPS Outdoor Sports Watch (Sumber: ZhenShi Information Technology (Shenzhen) Co., Ltd)