Techverse.asia - Dalam upaya mencegah konten bunuh diri dan menyakiti diri sendiri menyebar secara daring (online), Koalisi Kesehatan Mental (MHC) nirlaba baru-baru ini mengumumkan program baru, Thrive, yang bertujuan untuk mendorong platform daring agar membagikan "sinyal" materi yang berpotensi membahayakan.

Thrive, yang beranggotakan Meta, Snap, dan TikTok sebagai pendirinya, akan menyediakan cara bagi platform untuk membagikan hash konten bunuh diri dan menyakiti diri sendiri sevara gamblang dan konten yang menggambarkan atau mendorong tantangan viral.

Hash ini hanya akan dikaitkan dengan konten dan tidak akan menyertakan informasi yang dapat diidentifikasi tentang akun atau individu. Meta telah menyumbangkan infrastruktur teknis, yang kebetulan merupakan infrastruktur yang sama yang disediakan perusahaan untuk program keselamatan anak Lantern milik Tech Coalition pada November tahun lalu.

Baca Juga: Ultimate Ears Luncurkan Miniroll: Speaker Portabel Ultra-Ringan dengan Tali

Anggota Thrive akan dapat mengumpulkan informasi tentang konten menyakiti diri sendiri dan menerima peringatan tentang konten yang menimbulkan kekhawatiran atau melanggar kebijakan mereka. Dari sana, mereka akan dapat menilai secara independen apakah akan mengambil tindakan.

Direktur Thrive Dan Reidenberg, yang juga menjabat sebagai direktur pelaksana di National Council for Suicide Prevention di Amerika Serikat (AS), akan mengawasi aspek operasional Thrive, memfasilitasi serta memantau aktivitas organisasi tersebut.

Perusahaan yang berpartisipasi akan bertanggung jawab untuk mengunggah, meninjau, dan mengambil tindakan atas konten apapun yang dibagikan melalui Thrive, dan berkontribusi pada laporan tahunan yang akan memberikan wawasan tentang dampak program tersebut.

“Kami di MHC sangat senang bekerja sama dengan Thrive, sebuah kolaborasi unik dari platform media sosial paling berpengaruh yang telah bersatu untuk mengatasi konten bunuh diri dan menyakiti diri sendiri,” kata Kenneth Cole selaku pendiri MHC, dalam sebuah pernyataan disadur, Selasa (17/9/2024).

Baca Juga: China Mengusulkan Regulasi Baru Terkait Pelabelan Konten yang Dihasilkan AI

Meta, Snap, dan TikTok adalah beberapa mitra awal yang bergabung dengan bursa yang berkomitmen untuk membuat dampak yang lebih besar dan membantu menyelamatkan nyawa. Yang jelas absen dari Thrive adalah X, platform yang sebelumnya dikenal sebagai Twitter - yang tidak memiliki rekam jejak terbaik dalam hal moderasi.

Data menunjukkan bahwa X memiliki staf moderator yang jauh lebih sedikit daripada platform sosial lainnya, sebagian akibat dari CEO X Elon Musk yang memangkas sekitar 80 persen teknisi perusahaan yang didedikasikan untuk kepercayaan dan keamanan.

Awal tahun ini, X berjanji untuk mendirikan pusat keunggulan kepercayaan dan keamanan baru di Austin, Texas, AS. Namun, perusahaan tersebut dilaporkan akhirnya mempekerjakan lebih sedikit moderator untuk pusat tersebut daripada yang awalnya diproyeksikan.

Baca Juga: TikTok Meluncurkan Obrolan Grup untuk Maksimal 32 Orang

Google, yang memiliki Youtube, juga bukan anggota dari Thrive. Yotube telah menjadi sorotan karena kegagalannya dalam melindungi pengguna dari konten yang menyakiti diri sendiri.

Sebuah studi pada 2024 yang dirilis oleh Institute for Strategic Dialogue menemukan bahwa Youtube dengan mudah merekomendasikan video kepada remaja yang mendorong atau menormalkan bunuh diri.

Itu tidak berarti bahwa Meta, Snap, dan TikTok bernasib lebih baik; ratusan tuntutan hukum, termasuk yang baru-baru ini diajukan oleh Kota New York, menuduh raksasa teknologi tersebut berkontribusi terhadap krisis kesehatan mental.

Baca Juga: Instagram Menambahkan 3 Fitur Baru untuk DM, Ini Selengkapnya

Dalam putusan penting dua tahun lalu, otoritas Inggris memutuskan Instagram milik Meta bersalah atas bunuh diri seorang gadis berusia 14 tahun setelah ia melihat konten yang mencederai diri sendiri di platform tersebut.

Penelitian telah mulai menunjukkan hubungan kausal antara penggunaan media sosial yang tinggi dan penurunan kesejahteraan atau gangguan suasana hati, terutama depresi, dan kecemasan.

Sebagian besar menyiratkan bahwa pengguna media sosial yang berat jauh lebih mungkin mengalami depresi daripada pengguna yang ringan, dan memandang diri mereka sendiri dalam pandangan yang tidak menyenangkan - terutama penampilan fisik mereka.