Youtube Tindak Tegas Konten AI yang Menampilkan Kekerasan dan Kematian

Techverse.asia - Youtube baru-baru ini memperbarui kebijakan penindasan di dunia maya dan pelecehannya serta tidak lagi mengizinkan konten yang “mensimulasikan secara realistis” anak di bawah umur dan korban kejahatan lainnya yang menceritakan kematian atau kekerasan yang mereka alami.

Platform milik Google tersebut menyatakan bahwa pembaruan ini akan mulai menyerang konten semacam itu mulai 16 Januari 2024 besok.

Pembaruan tersebut juga tampaknya ditujukan pada genre konten di kalangan kejahatan nyata yang menciptakan penggambaran korban yang didukung oleh Artificial Intelligence (AI) atau kecerdasan buatan - termasuk anak-anak - yang kemudian menggambarkan kekerasan terhadap mereka.

Beberapa video yang menggunakan suara kekanak-kanakan yang dihasilkan oleh AI untuk menggambarkan kekerasan mengerikan yang terjadi dalam kasus-kasus penting. Keluarga korban yang digambarkan dalam video tersebut menyebut konten tersebut “menjijikkan.”

Untuk diketahui, sebab dalam beberapa bulan terakhir, sejumlah pembuat konten telah menggunakan kecerdasan buatan untuk menceritakan berbagai kasus penting, termasuk penculikan dan kematian James Bulger yang berusia dua tahun asal Inggris, seperti dilansir dari The Washington Post.

Ada juga narasi AI serupa tentang Madeleine McCann, seorang anak dari negara Inggris yang baru berusia tiga tahun dan tiba-tiba menghilang dari sebuah resor, dan pun Gabriel Fernández, seorang anak laki-laki berusia delapan tahun yang disiksa dan dibunuh oleh ibu dan pacarnya di California, Amerika Serikat (AS).

Dengan memberlakukan pembaruan ini, maka Youtube akan mulai menghapus konten yang melanggar kebijakan baru tersebut, dan pengguna yang menerima teguran tidak akan dapat mengunggah (upload) video, streaming langsung, hingga Stories selama satu minggu ke depan.

Content creator yang mendapatkan teguran pertama karena terbukti melanggar, misalnya, antara lain akan dibatasi haknya untuk upload video selama seminggu. Apabila kebijakan ini nekat dilanggar lagi dalam waktu 90 hari, maka nominal denda akan meningkat.

Dan kemudian jika si pembuat konten sudah tiga kali memperoleh teguran dari Youtube, tetapi tidak teguran tersebut sama sekali tidak digubris, maka saluran atau channel mereka akan dihapus secara permanen dari platform video populer ini.

Perubahan baru ini terjadi hampir dua bulan setelah Youtube memperkenalkan kebijakan baru seputar pengungkapan konten yang dihasilkan oleh kecerdasan buatan yang bertanggung jawab, serta alat baru untuk meminta penghapusan deepfake.

Salah satu perubahan tersebut mengharuskan pengguna untuk mengungkapkan kapan mereka membuat konten yang diubah atau sintetis yang tampak realistis.

Perusahaan pun memperingatkan bahwa pengguna yang gagal mengungkapkan dengan benar penggunaan AI dalam konten-konten mereka, maka akan dikenakan penghapusan konten, penangguhan dari Program Mitra Youtube, atau hukuman lainnya.

Selain itu, Youtube juga mencatat pada saat itu bahwa beberapa konten hasil AI mungkin dihapus jika digunakan untuk menunjukkan “kekerasan yang realistis”, meskipun konten tersebut diberi sudah diberi label AI.

Platform termasuk Youtube dalam beberapa bulan terakhir telah meluncurkan alat kreasi berbasis AI, dan bersamaan dengan itu kebijakan baru seputar konten sintetis yang dapat membingungkan pengguna.

Sebelumnya pada September tahun lalu, TikTok telah lebih dahulu meluncurkan alat yang memungkinkan pembuat konten memberi label pada konten buatan AI mereka setelah aplikasi sosial tersebut memperbarui pedomannya untuk mewajibkan pembuat konten mengungkapkan kapan mereka memposting media sintetis atau manipulasi yang menampilkan adegan realistis.

Kebijakan TikTok tersebut memungkinkannya guna menghapus gambar AI realistis yang tidak diungkapkan.