Take It Down, Alat dari Meta untuk Hapus Konten Tak Senonoh Anak di Bawah Umur

Techverse.asia - Meta hari ini mengumumkan membantu mendanai organisasi baru bernama Take It Down dengan dukungan dari National Center for Missing and Exploited Children (NCMEC), yang mana akan membantu anak muda di bawah 18 tahun mencegah gambar porno diri mereka menyebar secara online. Sistem, tersedia sebagai alat online, bekerja mirip dengan inisiatif Facebook sebelumnya yang dirancang untuk mencegah penyebaran gambar yang tidak senonoh secara non-konsensual.

Dengan fitur Take It Down yang memungkinkan pengguna untuk secara anonim melaporkan dan menghapus gambar atau video telanjang, sebagian telanjang, atau eksplisit secara seksual dari individu di bawah umur yang ditemukan di platform yang berpartisipasi dan memblokir konten yang menyinggung agar tidak dibagikan lagi.

Facebook dan Instagram telah masuk untuk mengintegrasikan platform, seperti halnya OnlyFans, Pornhub, dan Yubo. Take It Down dirancang untuk anak di bawah umur untuk melaporkan sendiri gambar dan video mereka sendiri. Namun, orang dewasa yang muncul di konten tersebut saat berusia di bawah 18 tahun juga dapat menggunakan layanan ini untuk melaporkan dan menghapusnya. Orang tua atau orang dewasa tepercaya lainnya juga dapat membuat laporan atas nama anak.

Frequently Asked Question (FAQ) untuk Take It Down menyatakan bahwa pengguna harus memiliki gambar atau video yang dilaporkan di perangkat mereka untuk menggunakan layanan ini. Konten ini tidak dikirimkan sebagai bagian dari proses pelaporan dan, dengan demikian, tetap bersifat pribadi.

Sebaliknya, konten tersebut digunakan untuk menghasilkan nilai hash, sidik jari digital unik yang ditetapkan ke setiap gambar dan video yang kemudian dapat diberikan ke platform yang berpartisipasi untuk mendeteksi dan menghapusnya di situs web dan aplikasi mereka, sekaligus meminimalkan jumlah orang yang melihat konten yang sebenarnya.

“Kami membuat sistem ini karena banyak anak menghadapi situasi putus asa ini. Harapan kami adalah agar anak-anak mengetahui layanan ini, dan mereka merasa lega karena ada alat untuk membantu menurunkan gambar. NCMEC siap membantu,” kata Presiden dan CEO NCMEC, Michelle DeLaune, Selasa (28/2/2023).

Meta mengklaim bahwa sistem Take It Down baru untuk gambar porno non-konsensual dirancang sedemikian rupa untuk melindungi privasi pengguna karena tidak mengharuskan anak muda untuk benar-benar membagikan gambar itu sendiri dengan Meta atau organisasi lain. Sebagai gantinya, sistem akan menetapkan nilai hash unik — kode numerik — ke gambar atau video langsung dari perangkat pengguna sendiri.

Hash ini kemudian akan dikirimkan ke NCMEC, kemudian mengizinkan perusahaan mana pun untuk menemukan salinan gambar tersebut dan menghapusnya secara otomatis, selain mencegahnya untuk diposting di masa mendatang. Sistem asli yang disebut "revenge porn" telah dikritik selama uji cobanya karena mengharuskan unggahan pengguna sebelum hash dibuat, karena pakar keamanan menolak bahwa itu bukan metode yang paling bertanggung jawab dalam menangani konten intim.

Sejak itu telah diperlengkapi ulang untuk membuat hash secara lokal, mencatat dalam dokumentasi bantuan bahwa "gambar Anda tidak akan pernah meninggalkan komputer Anda." Sekarang, sistem Take It Down baru ini tampaknya menggunakan metodologi yang sama.

“Memiliki gambar intim pribadi yang dibagikan dengan orang lain bisa menakutkan dan membuat kewalahan, terutama bagi kaum muda. Ini bisa terasa lebih buruk ketika seseorang mencoba menggunakan gambar-gambar itu sebagai ancaman untuk gambar tambahan, kontak seksual atau uang – kejahatan yang dikenal sebagai sextortion,” ujar Kepala Keamanan Global Meta, Antigone Davis.

Meskipun ditujukan untuk anak muda yang gambar intimnya dibagikan secara non-konsensual — dan secara ilegal — Meta mencatat bahwa sistem ini juga dapat digunakan oleh orang dewasa, termasuk orang tua atau wali dari anak muda tersebut, atau bahkan orang dewasa yang khawatir dengan gambar non-konsensual mereka yang diambil saat mereka masih muda.

Bersamaan dengan peluncuran, Meta mengatakan itu juga meluncurkan alat baru yang akan mempersulit orang dewasa yang mencurigakan untuk berinteraksi dengan remaja di Instagram. Ini termasuk mendorong remaja untuk melaporkan akun setelah mereka memblokir orang dewasa yang mencurigakan, menghapus tombol pesan di akun Instagram remaja ketika mereka dilihat oleh orang dewasa dengan riwayat diblokir, dan menerapkan pengaturan privasi yang lebih ketat secara default untuk pengguna Facebook di bawah 16 tahun (atau 18 di negara tertentu).