Techverse.asia – Karena prospek pelarangan TikTok di Amerika Serikat (AS) terus berkembang, aplikasi format video pendek ini telah memperbarui kebijakan moderasi kontennya. Aturan tentang konten apa yang dapat diposting dan dipromosikan sebagian besar tidak berubah tetapi mencakup pembatasan baru untuk berbagi kecerdasan buatan atau Artificial Intelligence (AI) deepfake, yang menjadi semakin populer di aplikasi dalam beberapa bulan terakhir.

Sebagian besar kebijakan moderasi ini atau lebih dikenal dengan sebutan Pedoman Komunitas (community guideline) tidak berubah dan tidak mengejutkan. Tidak ada kekerasan grafis yang diperbolehkan, tidak ada ujaran kebencian, dan tidak ada konten seksual yang terang-terangan, dengan aturan bertahap untuk yang terakhir berdasarkan usia subjek. Namun, satu bagian yang baru diperluas mencakup “media sintetis dan yang dimanipulasi” — alias AI deepfake, yang menjadi semakin populer di aplikasi dalam beberapa bulan terakhir.

Pedoman yang diperbarui, media sintetis atau yang dimanipulasi yang menunjukkan adegan realistis harus diungkapkan dengan jelas. TikTok menyatakan ini dapat dilakukan melalui penggunaan stiker atau keterangan, seperti sintetis, palsu, tidak nyata, atau diubah. Sebelumnya, aturan TikTok tentang deepfake dibatasi pada satu baris yang melarang konten yang dapat menyesatkan pengguna dengan mendistorsi kebenaran peristiwa atau menyebabkan kerusakan signifikan pada subjek video.

Baca Juga: CEO TikTok Shou Zi Chew Klaim Jumlah Pengguna Aktif Aplikasinya di AS Lebih dari 150 Juta Orang

TikTok mencatat bahwa meskipun kreativitas yang dibuka oleh AI disambut baik, teknologi tersebut dapat mempersulit untuk membedakan antara fakta dan fiksi, yang dapat menimbulkan risiko.

TikTok mengatakan bahwa tidak akan mengizinkan media sintetik apa pun yang berisi kemiripan dengan figur pribadi nyata mana pun atau yang menunjukkan figur publik yang mendukung suatu produk atau melanggar kebijakan aplikasi lainnya, yaitu larangannya terhadap ujaran kebencian. Perusahaan mendefinisikan figur publik sebagai siapa saja yang berusia 18 tahun atau lebih dengan peran publik yang signifikan, seperti pejabat pemerintah, politikus, pemimpin bisnis, hingga selebritas.

“Kami tidak mengizinkan media sintetik yang mengandung kemiripan dengan sosok pribadi nyata mana pun. Meskipun kami memberikan lebih banyak kebebasan untuk figur publik, kami tidak ingin mereka menjadi sasaran pelecehan, atau orang-orang disesatkan oleh masalah politik atau keuangan. Kami tidak mengizinkan media sintetik figur publik jika kontennya digunakan untuk dukungan atau melanggar kebijakan lainnya. Ini termasuk larangan ujaran kebencian, eksploitasi seksual, dan bentuk pelecehan yang serius,” bunyi pedoman baru itu dikutip Techverse.asia pada Rabu (22/3/2023). 

Konten yang dihasilkan AI semakin populer di TikTok, sebagian besar berkat ketersediaan alat kloning suara AI yang lebih luas yang memudahkan untuk meniru suara seseorang. Alat-alat ini telah menciptakan subgenre konten baru, sering berfokus pada menempatkan figur publik seperti Presiden AS Joe Biden dan mantan Presiden Donald Trump dalam skenario yang tidak terduga, seperti mengubah kepribadian presiden menjadi argumen tentang game online atau Dungeons & Dragons, misalnya.

Baca Juga: Fitur Refresh TikTok: Konten di For You Page Bakal Lebih Variatif

Kasus penggunaan lainnya lebih berbahaya. Banyak pemalsuan AI menunjukkan angka yang sama ini membaca pernyataan transfobik atau homofobik dan terkadang disalahartikan sebagai rekaman nyata. Larangan TikTok atas dukungan deepfake, sementara itu, tampak seperti tanggapan terhadap video tertentu yang menggunakan AI untuk memalsukan Joe Rogan yang mempromosikan "peningkat libido untuk pria". Video semacam itu juga menyebar di aplikasi seperti Twitter dan Instagram.

Pembaruan kebijakan TikTok datang pada saat meningkatnya tekanan politik untuk perusahaan induk ByteDance, karena pemerintah Barat mengungkapkan ketakutan atas pengumpulan data pribadi aplikasi dan potensinya untuk mempengaruhi opini publik. Pemerintah AS dilaporkan telah mengancam larangan publik terhadap TikTok jika pemilik ByteDance tidak menjual sahamnya, sementara aplikasi tersebut telah dilarang di perangkat pemerintah di AS, Inggris, Selandia Baru, dan Kanada.

TikTok tidak mengatasi ancaman ini terhadap bisnisnya secara langsung dengan kebijakan yang diperbarui ini, tetapi mencatat bahwa ia ingin menawarkan lebih banyak transparansi tentang aturan dan cara menegakkannya. Perusahaan juga menerbitkan daftar delapan prinsip komunitas yang berbunyi “membentuk pekerjaan kita sehari-hari dan memandu cara kita mendekati keputusan penegakan hukum yang sulit.” Khususnya, dua prinsip pertama adalah “mencegah bahaya” dan “mengaktifkan kebebasan berekspresi”.