Instagram akan Memburamkan Gambar Telanjang yang Dikirim Melalui DM

Techverse.asia - Instagram sedang bersiap meluncurkan fitur keamanan baru yang mengaburkan gambar telanjang dalam pesan langsung atau Direct Message (DM), sebagai bagian dari upaya melindungi anak di bawah umur di platform dari pelecehan dan penipuan eksploitatif seksual - ketika seseorang diperas secara digital di bawah ancaman berbagi media intim.

Ini termasuk fitur yang disebut perlindungan ketelanjangan di DM, yang secara otomatis mengaburkan gambar yang terdeteksi mengandung ketelanjangan. Ini akan diaktifkan secara default untuk pengguna Instagram remaja, seperti yang diidentifikasi oleh informasi ulang tahun di akun mereka. Notifikasi juga akan mendorong pengguna dewasa untuk mengaktifkannya.

Aplikasi milik Meta tersebut menyatakan pihaknya juga akan mendorong remaja untuk melindungi diri mereka sendiri dengan memberikan peringatan yang mendorong mereka untuk berpikir dua kali dalam berbagi gambar intim.

Selain itu, ini mengingatkan pengguna bahwa mereka dapat menghapus pesan yang tak senonoh sebelum ada yang melihatnya. Lalu ada peringatan terakhir yakni suatu pengingat untuk bertanggung jawab dan menghormati muncul ketika seseorang mencoba meneruskan pesan dengan ketelanjangan yang terdeteksi (meskipun gambar tetap dapat diteruskan).

Meta berharap hal ini akan meningkatkan perlindungan terhadap penipu yang mungkin mengirimkan gambar telanjang untuk mengelabui orang agar mengirimkan gambar mereka sendiri sebagai balasannya.

“Meskipun sebagian besar orang menggunakan DM untuk membagikan hal-hal yang mereka sukai kepada teman, keluarga, atau kreator favorit, penipu pemerasan seks juga dapat menggunakan pesan pribadi untuk membagikan atau meminta gambar intim,” kata Meta dalam postingan blog seperti dilihat Techverse.asia pada Jumat (12/4/2024).

Perusahaan mengatakan bahwa mereka juga menerapkan perubahan yang akan mempersulit calon penipu dan penjahat untuk menemukan dan berinteraksi dengan remaja.

Fitur perlindungan ketelanjangan Instagram menggunakan teknologi bertenaga kecerdasan buatan alias Artificial Intelligence (AI) pada perangkat guna menganalisis apakah gambar yang dikirim melalui DM di Instagram mengandung unsur ketelanjangan, yang berarti fitur tersebut akan berfungsi dalam obrolan terenkripsi end-to-end, menurut Meta.

Meta menyatakan, mengambil tindakan tegas ketika mengetahui ada penggunanya yang terlibat dalam pemerasan seks. Oleh karena itu, perusahaan milik Mark Zuckerberg ini bakal menghapus akun mereka, mengambil langkah-langkah untuk mencegah pengguna membuat akun baru, dan jika perlu, melaporkan mereka ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi serta lembaga penegak hukum - hanya berlaku di Amerika Serikat (AS).

Di samping itu, Meta mengatakan bahwa pihaknya sedang mengembangkan teknologi baru untuk mengidentifikasi akun yang 'berpotensi' untuk terlibat dalam penipuan pemerasan seks, dan akan menerapkan batasan pada bagaimana akun yang dicurigai tersebut dapat berinteraksi dengan pengguna lain.

Meta pun sedang menguji pesan pop-up baru untuk pengguna yang mungkin pernah berinteraksi dengan akun yang telah dihapus karena pemerasan seks.

Upaya-upaya ini mengikuti kritik yang sudah lama ada bahwa platform seperti Facebook dan Instagram telah menyebabkan kerugian bagi pengguna termuda mereka. Hal itu mulai dari membahayakan kesehatan mental dan citra tubuh anak-anak, hingga dengan sengaja menggunakan platform orang tua yang melakukan kekerasan dan menciptakan 'pasar bagi predator untuk mencari anak-anak'.

“Langkah-langkah keamanan sisi perangkat yang diusulkan Meta dalam lingkungan terenkripsi sangat menggembirakan. Kami berharap langkah-langkah baru ini akan meningkatkan pelaporan oleh anak di bawah umur dan mengekang peredaran eksploitasi anak secara online,” kata John Shehan selaku Senior Vice President (SVP) di Pusat Nasional untuk Anak Hilang dan Tereksploitasi AS.

Fitur baru ini akan diuji dalam beberapa minggu mendatang sesuai dengan peluncuran global yang diharapkan dalam beberapa bulan ke depan. Fitur-fitur tersebut muncul setelah momen sidang Senat pada Januari 2024, ketika Zuckerberg meminta maaf kepada keluarga anak-anak yang telah menjadi korban pelecehan online di platform raksasa sosial tersebut.

Zuckerberg secara langsung berbicara kepada para orang tua yang menghadiri sidang yang mengatakan bahwa anak-anak mereka mengalami pelecehan dan eksploitasi di aplikasi Meta.