TikTok Menambahkan Label Secara Otomatis yang Dihasilkan AI Generatif di Aplikasinya

Techverse.asia - TikTok meningkatkan upayanya untuk secara otomatis memberi label pada konten yang dihasilkan oleh AI generaif di aplikasinya, meskipun aplikasi tersebut dibuat dengan alat pihak ketiga.

Dengan perubahan ini, jika kreator memposting konten di TikTok yang dibuat dengan layanan seperti DALL-E 3 OpenAI, konten tersebut secara otomatis akan diberi label 'AI-generated' untuk memberi tahu pengguna bahwa konten tersebut dibuat dengan AI generaif.

TikTok akan mendeteksi ketika gambar atau video diunggah ke platformnya yang berisi tag metadata yang menunjukkan adanya konten yang dihasilkan AI dan menyatakan bahwa TikTok adalah platform media sosial pertama yang mendukung Kredensial Konten baru.

Platform video sosial ini melakukan hal ini dengan menerapkan Kredensial Konten, sebuah teknologi dari Coalition for Content Provenance and Authenticity (C2PA), yang didirikan bersama oleh Microsoft dan Adobe. Kredensial Konten melampirkan metadata spesifik ke konten, yang kemudian dapat digunakan TikTok untuk langsung mengenali dan memberi label pada konten yang dihasilkan kecerdasan buatan.

Untuk itu, TikTok akan mulai secara otomatis memberi label pada konten buatan AI yang diunggah ke platform dengan melampirkan Kredensial Konten. Perubahan ini diluncurkan pada Kamis (9/5/2024) kemarin dan akan berlaku untuk semua pengguna secara global dalam beberapa minggu mendatang.

Sering digambarkan sebagai 'label nutrisi untuk konten digital', Kredensial Konten melampirkan 'metadata anti-rusak' yang dapat melacak asal-usul suatu gambar dan alat AI yang digunakan untuk menyuntingnya selama proses tersebut. Riwayat tersebut kemudian dapat dilihat oleh pengguna jika mereka menemukan konten buatan AI pada platform yang mendukung teknologi tersebut.

TikTok menyatakan bahwa mereka akan menjadi platform video pertama yang mendukung Kredensial Konten, meskipun perlu beberapa waktu sebelum label ini menjadi lazim karena banyak perusahaan baru mulai mendukung teknologi itu.

Google, Microsoft, OpenAI, dan Adobe semuanya berjanji untuk mendukung Kredensial Konten. Sedangkan Meta mengatakan, mereka juga menggunakan standar tersebut untuk memberi daya pada label pada platformnya.

Meskipun TikTok sudah mengharuskan pembuat konten untuk mengungkapkan kapan mereka memposting konten yang dibuat atau disempurnakan dengan AI generatif, perusahaan tersebut mengatakan bahwa mereka melihat perubahan baru ini sebagai cara tambahan untuk memastikan bahwa konten yang dihasilkan AI diberi label, sekaligus menghilangkan tekanan dari para pembuat konten.

Dalam beberapa bulan mendatang, TikTok juga akan mulai melampirkan Kredensial Konten ke konten buatan AI yang dibuat di platform menggunakan efek TikTok AI. Metadata Kredensial Konten akan mencakup detail tentang di mana dan bagaimana konten yang dihasilkan AI dibuat atau disunting dan akan tetap melekat pada konten tersebut saat diunduh.

Platform lain yang mengadopsi Kredensial Konten akan dapat secara otomatis memberi label pada konten tersebut sebagai konten yang dihasilkan oleh AI.

Jadi, meskipun TikTok berkomitmen untuk memberi label pada konten AI pada layanannya sendiri, TikTok juga berupaya membantu memastikan bahwa konten AI yang dibuat di TikTok juga diberi label secara akurat saat diposting di platform lain.

“Konten yang dihasilkan AI adalah saluran kreatif yang luar biasa, tetapi transparansi bagi pemirsa sangat penting,” kata Kepala Operasi dan Kepercayaan dan Keamanan TikTok, Adam Presser, dalam keterangan resminya kami kutip, Jumat (10/5/2024).

“Dengan bermitra dengan rekan-rekan untuk memberi label pada konten di seluruh platform, kami memudahkan pembuat konten untuk mengeksplorasi konten yang dihasilkan AI generatif secara bertanggung jawab, sambil terus mencegah AIGC yang berbahaya atau menyesatkan yang dilarang di TikTok,” sambungnya.

Namun demikian, perlu diingat bahwa Kredensial Konten dan sistem lain yang mengandalkan metadata tidaklah mudah. Sebab, OpenAI mencatat di halaman dukungan bahwa teknologi ini bukan solusi terbaik dan bahwa metadata dapat dengan mudah dihapus baik secara tidak sengaja maupun sengaja. Label juga tidak akan efektif jika orang tidak mau membacanya.