Youtube Menambahkan Alat Pelabelan Konten Baru yang Dihasilkan oleh AI Generatif

Techverse.asia - Hari ini, Youtube mengumumkan cara bagi pembuat konten untuk memberi label sendiri ketika video mereka berisi materi buatan AI generatif atau sintetis. Youtube kini mewajibkan pembuat konten untuk mengungkapkan kepada pemirsa kapan konten realistis dibuat dengan kecerdasan buatan atau Artificial Intelligence (AI).

Platform ini memperkenalkan alat baru di Creator Studio yang mengharuskan pembuat konten untuk mengungkapkan kapan konten yang mungkin disalahartikan pemirsa sebagai orang, tempat, atau peristiwa nyata dibuat dengan media yang diubah atau sintetis, termasuk AI generatif.

Pengungkapan baru ini dimaksudkan untuk mencegah pengguna Youtube tertipu sehingga percaya bahwa video yang dibuat secara sintetis itu nyata, karena alat AI generatif baru mempersulit membedakan mana yang asli dan mana yang palsu.

Peluncuran ini dilakukan ketika para ahli telah memperingatkan bahwa AI generatif dan deepfake akan menimbulkan risiko besar selama pemilihan presiden Amerika Serikat (AS) mendatang. Pengumuman hari ini muncul ketika Youtube mengumumkan pada November 2023 bahwa mereka akan meluncurkan pembaruan sebagai bagian dari pengenalan kebijakan AI baru yang lebih besar.

Youtube menyatakan bahwa kebijakan baru ini tidak mengharuskan pembuat konten untuk mengungkapkan konten yang jelas-jelas tidak realistis atau animasi, seperti seseorang mengendarai unicorn melintasi dunia fantasi.

Hal tersebut juga tak mengharuskan pembuat konten untuk mengungkapkan konten yang menggunakan AI generatif untuk bantuan produksi, seperti membuat skrip atau teks otomatis. Sebaliknya, Youtube justru menargetkan video yang menyerupai orang yang realistis.

Misalnya, pembuat konten harus mengungkapkan kapan mereka telah mengubah konten secara digital untuk mengganti wajah seseorang dengan wajah orang lain atau secara sintetis menghasilkan suara seseorang untuk menarasikan sebuah video.

Jika kreator menggunakan versi sintetis suara orang sungguhan untuk menarasikan video atau mengganti wajah seseorang dengan wajah orang lain, kreator harus menyertakan label. Mereka juga harus menyertakan pengungkapan kalau mereka mengubah rekaman peristiwa atau tempat nyata.

Para content creator juga harus mengungkapkan konten yang mengubah rekaman suatu peristiwa atau tempat nyata, misalnya membuat seolah-olah bangunan sungguhan terbakar. Pembuat konten juga harus mengungkapkan kapan mereka telah membuat adegan realistis dari peristiwa besar fiksi, seperti tornado yang bergerak menuju kota.

Youtube mengatakan bahwa perusahaan mungkin akan menerapkan salah satu label ini pada video jika pembuatnya belum melakukannya, terutama jika konten yang diubah atau sintetis berpotensi membingungkan atau menyesatkan orang.

Youtube pun menyebutkan bahwa sebagian besar video akan memiliki label yang muncul dalam deskripsi yang diperluas, namun untuk video yang menyentuh topik yang lebih sensitif seperti kesehatan atau berita, perusahaan akan menampilkan label yang lebih menonjol pada video itu sendiri.

Penonton akan mulai melihat label AI generatif di semua format Youtube dalam beberapa minggu mendatang, dimulai dengan aplikasi seluler Youtube, dan segera di desktop dan TV.

Platform video milik Google ini juga mencatat bahwa meskipun mereka ingin memberikan waktu kepada pembuat konten untuk membiasakan diri dengan aturan baru itu, Youtube kemungkinan akan memberikan sanksi kepada mereka yang terus-menerus melanggar kebijakan dengan tidak menyertakan label pada saat yang seharusnya.

Selain itu, Youtube mengaku bahwa pihaknya masih mengerjakan proses permintaan penghapusan yang diperbarui untuk konten sintetis atau konten yang diubah yang menggambarkan wajah atau suara seseorang yang nyata dan dapat diidentifikasi. Mereka berencana untuk segera membagikan rincian lebih lanjut tentang prosedur yang diperbarui tersebut.