Cegah Plagiarisme yang Dibuat Kecerdasan Buatan, OpenAI Luncurkan Alat AI Text Classifier

Techverse.asia - OpenAI, perusahaan di belakang DALL-E dan ChatGPT, telah meluncurkan alat gratis yang berupaya membedakan antara teks yang ditulis manusia dan yang dihasilkan oleh kecerdasan buatan atau artificial intelligence (AI), seperti teks yang dihasilkan oleh model ChatGPT dan GPT-3 milik perusahaan. Ini memperingatkan pengklasifikasi tidak sepenuhnya dapat diandalkan dalam siaran pers dan tidak boleh digunakan sebagai alat pengambilan keputusan utama.

Menurut OpenAI, alat ini dapat berguna untuk mencoba menentukan apakah seseorang mencoba menyampaikan teks yang dihasilkan sebagai sesuatu yang ditulis oleh seseorang. Alat yang dikenal sebagai classifier ini relatif sederhana, meskipun Anda harus memiliki akun OpenAI gratis untuk menggunakannya.

Anda cukup menempelkan teks ke dalam kotak, mengklik tombol, dan itu akan memberi tahu Anda apakah menurutnya teks tersebut sangat tidak mungkin, tidak mungkin, tidak jelas apakah itu, mungkin, atau kemungkinan besar dihasilkan oleh AI.

“Klasifikasi bertujuan untuk membantu mengurangi klaim palsu bahwa teks buatan AI ditulis oleh manusia. Namun, ini masih memiliki sejumlah keterbatasan sehingga harus digunakan sebagai pelengkap metode lain untuk menentukan sumber teks alih-alih menjadi alat pengambilan keputusan utama. Kami membuat pengklasifikasi awal ini tersedia untuk mendapatkan umpan balik tentang apakah alat seperti ini berguna, dan berharap untuk membagikan metode yang lebih baik di masa mendatang,” kata juru bicara OpenAI kepada TechCrunch melalui email dilihat Techverse.asia pada Rabu (1/2/2023).

Perusahaan juga mengatakan kadang-kadang "salah tapi percaya diri" melabeli teks yang ditulis manusia sebagai dari AI, terutama jika itu sangat berbeda dari apa pun dalam data pelatihan. Jelaslah bahwa pengklasifikasi masih merupakan sedang dalam proses.

Seiring meningkatnya semangat seputar AI generatif — terutama AI penghasil teks —, para kritikus telah meminta pembuat alat ini untuk mengambil langkah-langkah guna mengurangi efek yang berpotensi berbahaya. Beberapa distrik sekolah terbesar di Amerika Serikat (AS) telah melarang peggunaan ChatGPT di jaringan dan perangkat mereka.

Sebab, mereka khawatir akan berdampak pada pembelajaran siswa dan keakuratan konten yang dihasilkan alat tersebut. Dan situs termasuk Stack Overflow telah melarang pengguna berbagi konten yang dihasilkan oleh ChatGPT, dengan mengatakan bahwa AI membuat pengguna terlalu mudah membanjiri utas diskusi dengan jawaban yang meragukan.

Pengklasifikasi OpenAI, tepatnya disebut OpenAI AI Text Classifier, menarik secara arsitektural. Itu, seperti ChatGPT, adalah model bahasa AI yang dilatih pada banyak contoh teks yang tersedia untuk umum dari web. Tapi tidak seperti ChatGPT, ini disesuaikan untuk memprediksi seberapa besar kemungkinan sepotong teks dihasilkan oleh AI, tidak hanya dari ChatGPT, tetapi model AI penghasil teks apa pun.

Lebih khusus lagi, OpenAI melatih OpenAI AI Text Classifier pada teks dari 34 sistem penghasil teks dari lima organisasi berbeda, termasuk OpenAI sendiri. Teks ini dipasangkan dengan teks tulisan manusia yang serupa (tetapi tidak persis sama) dari Wikipedia, situs web diekstraksi dari tautan yang dibagikan di Reddit dan serangkaian "demonstrasi manusia" yang dikumpulkan untuk sistem penghasil teks OpenAI sebelumnya.

OpenAI mengakui dalam dokumen pendukung, bagaimanapun, bahwa itu mungkin secara tidak sengaja salah mengklasifikasikan beberapa teks yang ditulis AI sebagai tulisan manusia, mengingat proliferasi konten yang dihasilkan AI di internet.

Yang penting, Pengklasifikasi Teks OpenAI tidak akan berfungsi pada sembarang teks. Dibutuhkan minimal seridaknya 1.000 karakter, atau sekitar 150 sampai 250 kata. Itu tidak mendeteksi plagiarisme sampai batasan yang sangat disayangkan mengingat AI penghasil teks telah terbukti memuntahkan teks yang dilatihnya. Dan OpenAI mengatakan bahwa kemungkinan besar kesalahan terjadi pada teks yang ditulis oleh anak-anak atau dalam bahasa selain bahasa Inggris, karena set data yang diteruskan ke bahasa Inggris.

Detektor sedikit membatasi jawabannya saat mengevaluasi apakah sepotong teks tertentu dihasilkan oleh AI. Bergantung pada tingkat kepercayaannya, itu akan memberi label teks sebagai "sangat tidak mungkin" dihasilkan AI (peluang kurang dari 10%), "tidak mungkin" dihasilkan AI (antara 10% dan 45% kemungkinan), "tidak jelas apakah itu ” dihasilkan AI (peluang 45% hingga 90%), “kemungkinan” dihasilkan AI (peluang 90% hingga 98%) atau “kemungkinan” dihasilkan AI (peluang lebih dari 98%).