Google Larang Promosi Situs dan Aplikasi yang Hasilkan Konten Porno Deepfake

Layanan Dukungan Google mengumumkan sebuah kebijakan baru. Isinya perihal pembatasan dalam mempromosikan konten seksual deepfake, berikut di bawah ini isi pengumuman tersebut:

"Google berkomitmen untuk menciptakan lingkungan periklanan yang aman dan terhormat. Sejalan dengan tujuan ini, kami memperbarui kebijakan kami terkait promosi konten seksual sintetis.

Berlaku mulai bulan Mei, iklan Shopping tidak lagi mengizinkan hal berikut:

Promosi layanan yang menghasilkan, mendistribusikan, atau menyimpan konten seksual eksplisit sintetis atau konten sintetis yang mengandung ketelanjangan. Ini termasuk layanan yang membuat 'deepfakes' dan citra manipulasi lainnya.

Iklan untuk konten yang memberikan petunjuk pembuatan konten sintetis seksual eksplisit atau konten sintetis dengan ketelanjangan," tulis laman tersebut, seperti diakses pada Senin (6/5/2024).

Penguman itu juga menyebutkan contoh konten yang dilarang dalam ketentuan ini, yakni:

Situs web atau aplikasi yang mengklaim menghasilkan pornografi deepfake,
Tutorial cara membuat pornografi deepfake,
Iklan yang mendukung atau membandingkan layanan pornografi deepfake.

Jika ditemukan pelanggaran terkait kebijakan tersebut, Google menegaskan, mereka akan menangani kasus ini secara serius sebagai pelanggaran berat.

"Jika kami menemukan pelanggaran kebijakan ini, kami akan menangguhkan akun Google Ads Anda saat pelanggaran terdeteksi dan tanpa peringatan sebelumnya, dan Anda tidak akan diizinkan untuk beriklan dengan kami lagi," tulis Google lagi.

Perubahan tersebut diketahui akan mulai berlaku pada 30 Mei 2024.

"Pembaruan ini, secara eksplisit melarang iklan untuk layanan yang menawarkan pembuatan pornografi deepfake atau konten sintetis yang mengandung ketelanjangan," kata juru bicara Google Michael Aciman kepada The Verge.

Aciman mengatakan iklan apa pun yang melanggar kebijakannya akan dihapus. Ia menambahkan, perusahaan menggunakan kombinasi tinjauan manusia dan sistem otomatis untuk menegakkan kebijakan tersebut.

Informasi yang perlu diketahui, Laporan Keamanan Iklan tahunan Google mengungkap bahwa pada 2023, perusahaan itu menghapus lebih dari 1,8 miliar iklan karena melanggar kebijakannya mengenai konten seksual. Perubahan tersebut kali pertama dilaporkan oleh 404 Media.

Seperti yang dicatat oleh 404 Media, meskipun Google sudah melarang pengiklan mempromosikan konten seksual eksplisit, beberapa aplikasi yang memfasilitasi pembuatan pornografi deepfake malah kemudian 'mengakali' iklan sebagai konten non-seksual di iklan Google atau di Google Play Store.

"Misalnya, sebuah aplikasi pertukaran wajah tidak mengiklankan dirinya sebagai aplikasi seksual eksplisit di Google Play Store, namun melakukannya di situs porno," ungkap media itu.

Rentetan Pelanggaran Hukum Menggunakan Konten Porno Deepfake

Pornografi deepfake non-konsensual telah menjadi masalah yang terus-menerus terjadi dalam beberapa tahun terakhir.

Tahun lalu, FBI mengeluarkan peringatan tentang 'peningkatan' skema pemerasan, yang melibatkan pemerasan dengan foto telanjang yang dihasilkan AI.

Dua siswa sekolah menengah Florida ditangkap Desember 2023, karena diduga membuat foto telanjang teman sekelas mereka yang dibuat dengan kecerdasan buatan (AI).
Kabar lain yang muncul pekan ini, seorang pria Pittsburgh berusia 57 tahun dijatuhi hukuman lebih dari 14 tahun penjara, karena memiliki materi pelecehan seksual terhadap anak-anak palsu.
Meskipun banyak model AI yang menyulitkan — bahkan tidak mungkin — bagi pengguna untuk membuat gambar telanjang yang dibuat oleh AI, beberapa layanan memungkinkan pengguna membuat konten seksual.