TikTok Hadirkan Alat Baru Guna Memberi Label pada Konten yang Dihasilkan AI

Techverse.asia - Seiring dengan semakin banyaknya kreator yang beralih ke kecerdasan buatan atau Artificial Intelligence (AI) generatif untuk ekspresi artistiknya, terdapat juga dorongan yang lebih luas terhadap transparansi ketika AI terlibat dalam pembuatan konten. Untuk mengatasi masalah ini, TikTok memperkenalkan cara baru bagi pembuat konten untuk memberi label pada konten yang dibuat menggunakan alat AI generatif.

Label baru ini tidak eksklusif untuk filter yang disetujui TikTok. Pengguna dapat memberi label pada konten apapun yang sepenuhnya dibuat atau disunting (edit) secara signifikan oleh AI, dari manapun konten tersebut berasal.

Menurut TikTok, mereka merasa perlu untuk memperkenalkan pelabelan AI karena konten AI berpotensi membingungkan atau menyesatkan pemirsa. Pedoman pengguna TikTok sudah mewajibkan pembuat konten untuk mengungkapkan kapan konten dibuat menggunakan alat AI.

Dengan begitu, fitur baru ini akan meminta pembuat konten untuk mengaktifkan fitur pelabelan sehingga pemirsa mengetahui kapan video dan foto dibuat menggunakan perangkat lunak AI. Label AI muncul di bawah nama pengguna di pojok video.

Perintah tersebut juga mencakup pengingat bahwa konten dapat dihapus jika tidak diungkapkan bahwa alat AI terlibat dalam pembuat konten tersebut. Meski begitu, TikTok tidak akan memberikan sanksi kepada pembuat konten karena tidak memberi label pada konten AI mereka yang tidak termasuk dalam kebijakan media sintetis yang ada.

Perusahaan juga mengatakan bahwa pada minggu ini mereka akan mulai menguji cara untuk secara otomatis memberi label pada konten sebagai buatan AI.

Namun, di luar kasus ekstrem yang menggunakan AI untuk sengaja menyesatkan pengguna, beberapa konten yang dibuat oleh AI dapat membedakan antara konten yang terlihat asli atau palsu. Di wilayah abu-abu ini, transparansi yang lebih tinggi umumnya dihargai oleh pengguna sehingga mereka tahu apakah konten yang mereka lihat telah banyak disunting atau dibuat dengan AI.

Alat baru TikTok yang diperkenalkan sekarang tidak hanya akan memudahkan pembuat konten untuk mematuhi kebijakan yang ada seputar media sintetis, tetapi juga memberi label pada konten lain yang sepenuhnya dibuat menggunakan AI atau disunting secara signifikan dengan AI. Alat ini akan tersedia bagi pembuat konten setelah mengunggah videonya, dan TikTok tidak mengharapkan pembuat konten untuk kembali memberi label ulang pada video mereka sebelumnya.

Disinggung soal bagaimana teknologi TikTok untuk mencari konten yang mungkin dihasilkan oleh AI, perusahaan menolak untuk memberikan rinciannya, dan menyatakan bahwa membagikan rincian tersebut berpotensi memungkinkan pelaku kejahatan untuk mengatasi kemampuan pendeteksiannya.

Namun, TikTok menyatakan akan menguji berbagai model pendeteksian AI dan “menilai” kemitraan asal yang dirancang untuk membantu platform mendeteksi AI dengan lebih baik dengan menyematkan label AI ke dalam konten itu sendiri.

Pelabelan AI menjadi praktik yang lebih umum untuk platform besar dengan OpenAI dan Google mengumumkan kemampuan deteksi AI mereka sendiri dalam beberapa bulan terakhir. Instagram juga tampaknya sedang mengerjakan fitur yang menyoroti kapan konten telah dibuat atau diedit dengan AI. Dan Parlemen Uni Eropa (UE) mendorong platform untuk memberi label pada konten AI sebagai aturan umum dalam perjuangannya melawan disinformasi.

Sebagai hasil dari dorongan barunya terhadap transparansi, TikTok kini juga akan mengganti nama semua efeknya yang menggunakan AI dengan secara eksplisit menyertakan “AI” dalam namanya. Itu adalah sesuatu yang sebelumnya mereka tolak untuk diungkapkan.

Dengan perubahan pelabelan baru, pengguna kini dapat menentukan filter TikTok mana yang menggunakan AI secara sekilas. TikTok menyebutkan bahwa pedoman terbarunya untuk pembuat Effect House akan meminta mereka melakukan hal yang sama.

Langkah ini dapat diapresiasi, tapi apa yang dilakukan TikTok dengan filter Bold Glamour menjadi sebuah kontradiksi. Sebab, filter itu menjadi viral karena kemampuan teknisnya dalam mengubah wajah pengguna, beberapa orang menduga filter tersebut tidak menggunakan augmented reality (AR), melainkan dibuat oleh AI.