Discord Blokir Konten yang Bisa Memicu Grooming dan Pelecehan Seksual Terhadap Anak

Discord telah memperbarui kebijakan mereka, yang dimaksudkan untuk melindungi anak-anak dan remaja di platformnya dari predator seksual. Platform Discord kini terang-terangan melarang penyebaran konten dan materi pelecehan seksual anak.

Selain melarang CSAM yang dihasilkan oleh AI, Discord sekarang juga secara eksplisit melarang konten teks atau media apapun yang melecehkan anak-anak secara seksual. Termasuk materi pelecehan seksual anak yang digambar, fotorealistik, dan fotorealistik buatan AI. Tujuan pembaruan ini adalah untuk memastikan seksualisasi anak-anak dalam konteks apapun tidak dinormalisasi.

Langkah itu diambil, menyusul adanya laporan The Washington Post pada Juni 2023. Laporan itu menyebut kalau gambar seks anak yang dihasilkan Artificial Intelligence (AI) telah berkembang biak di internet dalam beberapa bulan terakhir.

Terlebih setelah diketahui lewat publikasi itu, mereka melihat percakapan tentang penggunaan Midjourney (AI generatif yang mengubah teks ke gambar) digunakan untuk membuat gambar anak-anak yang tidak pantas, lalu disebar di Discord.

Wakil Presiden Kepercayaan dan Keamanan Discord, John Redgrave, mengatakan bahwa Discord telah menjadi hub bagi komunitas yang dikhususkan untuk pembuatan gambar AI generatif, dan telah menyelenggarakan beberapa integrasi yang memungkinkan pengguna untuk membuatnya.

"Gambar bertema seksual sering dibuat di server tersebut," kata dia, dilansir dari NBC, Rabu (12/7/2023).

Redgrave juga mengatakan, perusahaan sedang melembagakan perubahan kebijakan dan klarifikasi untuk secara eksplisit melarang kencan remaja.

Para ahli, sebelumnya menyatakan kencan remaja memberikan peluang yang signifikan bagi orang dewasa, yang ingin mengeksploitasi anak-anak atau grooming.

Discord senada dengan ini, kemudian memperbarui kebijakan dan menulis dalam posting blognya:

"Dalam konteks ini, kami juga percaya bahwa kencan online dapat membahayakan diri sendiri. Di bawah kebijakan ini, server kencan remaja dilarang di platform dan kami akan mengambil tindakan terhadap pengguna yang terlibat dalam perilaku ini."

Redgrave mengatakan dalam sebuah presentasi di TrustCon, sebuah konferensi untuk profesional kepercayaan dan keselamatan yang diadakan di San Francisco, bahwa perusahaan melihat hubungan online seperti itu sebagai risiko besar bagi kaum muda.

"Kami tidak lagi mengizinkan kencan remaja di platform kami karena kami menyadari bahwa itu adalah vektor bahaya yang besar bagi predator untuk mengejar remaja," katanya.

Laman CNBC yang kami akses, mengutip hasil investigasi NBC News yang menemukan ratusan server Discord digunakan untuk mempromosikan materi pelecehan anak. Selain itu, beberapa server yang mengiklankan diri mereka sebagai server remaja atau kencan anak, meminta gambar telanjang dari anak di bawah umur. NBC News mengidentifikasi 35 kasus selama enam tahun terakhir, di mana orang dewasa diadili atas tuduhan penculikan, perawatan, atau kekerasan seksual yang diduga melibatkan komunikasi di Discord.

Kebijakan lainnya, Discord baru-baru ini meluncurkan alat Pusat Keluarga. Alat ini dapat digunakan orang tua untuk mengawasi aktivitas anak-anak mereka di layanan obrolan. Meskipun orang tua tidak dapat melihat isi sebenarnya dari pesan anak-anak mereka, alat keikutsertaan ini memungkinkan mereka untuk melihat dengan siapa anak-anak mereka berteman dan dengan siapa mereka berbicara di platform.

Discord berharap, tindakan dan alat baru ini dapat membantu menjaga keamanan pengguna di bawah umur bersama dengan tindakan lamanya; yang mencakup pemindaian gambar secara proaktif yang diunggah ke platformnya menggunakan PhotoDNA.