Pemerintah China Tangkap Orang yang Gunakan ChatGPT untuk Menyebarkan Hoaks

Pihak berwenang di China telah menangkap dan menahan seorang pria, di Provinsi Gansu, China Utara. Tersangka yang diketahui bernama belakang Hong itu, diduga menggunakan ChatGPT untuk menulis artikel berita palsu.

Langkah tersebut, dilaporkan The Verge telah menjadi salah satu penangkapan pertama yang dilakukan di bawah pedoman anti-Artificial Intelligence (AI) China yang baru, yang melarang penyalahgunaan layanan intelijen buatan untuk mendistribusikan 'informasi palsu'.

Menurut pernyataan polisi setempat, pihak berwenang pada 24 April 2023 menemukan artikel yang menyeret Hong ke penjara. Artikel yang kuat dugaan dibuat menggunakan bantuan ChatGPT itu, berisikan berita kecelakaan kereta fatal.

Dikutip dari South China Morning Post, pejabat setempat kemudian menyatakan bahwa berita kecelakaan itu adalah berita bohong (hoaks). Setelah menemukan artikel tersebut, pemangku wilayah Gansu selanjutnya menemukan ada postingan secara bersamaan ke sebanyak 20 akun tambahan di platform blog milik Baidu, Baijiahao. Isi unggahan berupa beberapa versi dari cerita serupa dengan lokasi kecelakaan yang berbeda.

"Dalam pernyataannya, polisi setempat mengklaim Hong mengaku menggunakan ChatGPT, untuk menulis ulang artikel berita viral yang ada untuk menghindari filter konten duplikat, Kemudian mempostingnya secara online, setelah teman-temannya menunjukkan kepadanya cara menghasilkan uang melalui lalu lintas internet," ujar seorang sumber, dilansir dari The Verge, Rabu (10/5/2023).

Dalam penelusuran didapati, artikel palsu telah dilihat lebih dari 15.000 kali sebelum dihapus.

Hong secara khusus didakwa, karena dituduh membuat dan/atau menyebarkan informasi yang salah secara online. Namun, itu bukan satu-satunya penerapan dakwaan. Karena kemudian Hong juga dapat didefinisikan secara luas telah merusak ketertiban umum atau menyebabkan kekacauan di tempat umum.

Sementara itu, dalam CNBC diberitakan, otoritas kepolisian Gansu menangkap Hong berdasarkan undang-undang pertama yang mengatur 'teknologi sintesis mendalam', yang diperkenalkan China tahun ini.

Teknologi sintesis mendalam mengacu pada AI yang digunakan untuk menghasilkan teks, gambar, video, atau media lainnya. Undang-undang menyatakan bahwa, layanan deep synthesis tidak dapat digunakan untuk menyebarkan berita palsu.

China menyusun undang-undang tersebut saat ChatGPT lepas landas dan menjadi viral, karena pihak berwenang berusaha untuk menjadi yang terdepan dalam teknologi.

Internet China sangat disensor dan dikendalikan. Beijing telah berusaha untuk memperkenalkan undang-undang yang mengatur teknologi baru, yang dapat menimbulkan kekhawatiran bagi pemerintah pusat.

Seperti yang telah viral, ChatGPT adalah chatbot yang menerapkan kecerdasan buatan. ChatGPT yang mulai dikenal pada November 2022, dibuat oleh perusahaan Amerika Serikat, OpenAI. ChatGPT adalah contoh chatbot berdasarkan teknologi AI generatif, yang memungkinkan perangkat lunak menghasilkan respons berdasarkan permintaan dan pertanyaan pengguna.

China adalah salah satu dari sedikit negara yang memblokir akses ke ChatGPT, tetapi penduduk dapat mengatasi pembatasan ini menggunakan koneksi VPN.

Raksasa teknologi China saat ini, Alibaba, sedang menguji saingan mereka sendiri untuk ChatGPT, Tongyi Qianwen. Chatbot ini bukan chatbot yang tersedia secara luas seperti ChatGPT. Sebaliknya, perusahaan China lebih berhati-hati dalam pendekatan mereka dan sebagian menargetkan penggunaan khusus.

Produk Tongyi Qianwen AI, pada akhirnya akan diluncurkan pada perangkat lunak komunikasi tempat kerja DingTalk, dan Tmall Genie, penyedia peralatan rumah pintar.

Perlu menjadi bentuk perhatian, disinformasi dan misinformasi yang dihasilkan oleh AI tidak hanya terjadi di China. Pakar AI, perusahaan media sosial, dan pejabat pemerintah di Amerika Serikat sama-sama prihatin tentang kemungkinan misinformasi yang disebarkan oleh AI generatif.

Pada April 2023 misalnya, GOP merilis iklan buatan AI yang membayangkan jika Presiden Biden terpilih kembali, itu menunjukkan gelombang besar imigrasi di perbatasan AS dengan Meksiko dan runtuhnya peradaban di San Francisco.

Meskipun iklan ini diberi label sebagai dihasilkan oleh AI, citra fotorealistik dari peristiwa palsu dapat dengan mudah menyesatkan orang untuk melihat pemandangan tersebut sebagai kenyataan.

Dalam contoh lain yang diungkap oleh Vice, Amnesty Norway, cabang organisasi nirlaba Amnesty International telah memposting gambar yang dihasilkan AI di akun media sosial mereka, untuk menarik perhatian pada peringatan dua tahun Mogok Nasional Kolombia. Gambar-gambar ini salah menggambarkan bendera Kolombia dan menciptakan manusia palsu sebagai pengganti pengunjuk rasa asli.

Sejak ChatGPT menjadi semakin populer di seluruh dunia, legislator China di Cyberspace Administration of China telah mencoba menyusun aturan, yang mengatur bagaimana perusahaan mengembangkan kecerdasan buatan.

Peraturan yang diusulkan termasuk sebagai berikut ini: tidak menghasilkan informasi palsu, memberi label yang jelas pada konten yang dibuat menggunakan AI, memastikan bahwa data yang digunakan untuk melatih AI tidak mendiskriminasi suku, ras, dan jenis kelamin.