Youtube Memperluas Teknologi Pendeteksi Deepfake yang Dihasilkan AI

Techverse.asia - Youtube memperluas teknologi pendeteksi kemiripan wajahnya, yang mengidentifikasi deepfake yang dihasilkan oleh kecerdasan buatan (AI), ke kelompok uji coba yang terdiri dari pejabat pemerintah, kandidat politik, dan jurnalis.

Anggota kelompok uji coba akan mendapatkan akses ke alat yang mendeteksi konten yang dihasilkan AI tanpa izin dan memungkinkan mereka untuk meminta penghapusannya jika mereka yakin konten tersebut melanggar kebijakan Youtube.

Teknologi itu sendiri diluncurkan tahun lalu kepada sekitar empat juta kreator Youtube dalam Program Mitra Youtube, setelah uji coba sebelumnya.

Mirip dengan sistem Content ID Youtube yang sudah ada sebelumnya, yang mendeteksi materi yang dilindungi hak cipta dalam video yang diunggah pengguna, fitur pendeteksi kemiripan wajah mencari wajah simulasi yang dibuat dengan alat AI.

Alat-alat ini terkadang digunakan untuk mencoba menyebarkan informasi yang salah dan memanipulasi persepsi orang tentang realitas, karena mereka memanfaatkan persona deepfake dari tokoh-tokoh terkenal - seperti politisi atau pejabat pemerintah lainnya - untuk mengatakan dan melakukan hal-hal dalam video AI ini yang tidak mereka lakukan dalam kehidupan nyata.

Dengan program uji coba baru tersebut, pelantar video ini bertujuan untuk menyeimbangkan kebebasan berekspresi pengguna dengan risiko yang terkait dengan teknologi kecerdasan buatan yang dapat menghasilkan kemiripan yang meyakinkan dari tokoh publik.

“Ekspansi ini benar-benar tentang integritas percakapan publik,” kata Leslie Miller selaku Wakil Presiden Urusan Pemerintahan dan Kebijakan Publik Youtube.

Dia tahu bahwa risiko peniruan identitas oleh kecerdasan buatan sangatlah tinggi bagi mereka yang berada di ruang publik. “Tetapi meskipun kami menyediakan perlindungan baru ini, kami juga berhati-hati tentang bagaimana kami menggunakannya,” katanya.

Miller menjelaskan bahwa tidak semua kecocokan yang terdeteksi akan dihapus jika diminta. Sebaliknya, Youtube akan mengevaluasi setiap permintaan berdasarkan pedoman kebijakan privasi yang ada untuk menentukan apakah konten tersebut merupakan parodi atau kritik politik, yang merupakan bentuk kebebasan berekspresi yang dilindungi.

Youtube juga mencatat bahwa mereka juga mengadvokasi perlindungan ini di tingkat federal, dengan dukungannya terhadap Undang-Undang No Fakes di Washington D.C., yang akan mengatur penggunaan AI untuk membuat rekreasi suara dan penampilan visual seseorang tanpa izin.

Untuk menggunakan alat baru ini, penguji percontohan yang memenuhi syarat harus terlebih dahulu membuktikan identitas mereka dengan mengunggah swafoto dan kartu identitas pemerintah. Mereka kemudian dapat membuat profil, melihat kecocokan yang muncul, dan secara opsional meminta penghapusannya.

Pihaknya pun berencana untuk akhirnya memberi orang kemampuan untuk mencegah unggahan konten yang melanggar sebelum ditayangkan atau, mungkin, memungkinkan mereka untuk memonetisasi video tersebut, mirip dengan cara kerja sistem Content ID mereka.

Meski begitu, perusahaan tidak akan mengonfirmasi politisi atau pejabat mana yang akan menjadi penguji awal, tetapi mengatakan tujuannya adalah untuk membuat teknologi ini tersedia secara luas dari waktu ke waktu.

Video AI ini akan diberi label demikian, tetapi penempatan label ini tidak konsisten. Untuk beberapa video, label muncul di deskripsi video, sementara video yang berfokus pada "topik yang lebih sensitif" akan menerapkan label di bagian depan video.

Ini adalah pendekatan yang sama yang diambil Youtube dengan semua konten yang dihasilkan kecerdasan buatan. “Ada banyak konten yang diproduksi dengan AI, tetapi perbedaan itu sebenarnya tidak penting bagi konten itu sendiri,” ungkap Amjad Hanif selaku Wakil Presiden Produk Kreator Youtube, mengenai penempatan label tersebut.

“Bisa jadi itu kartun yang dihasilkan dengan AI. Jadi saya pikir ada penilaian apakah itu kategori yang mungkin layak mendapatkan pernyataan penafian yang sangat jelas,” sambungnya.