ICML Larang Penggunaan ChatGPT dan AI untuk Menulis Paper Akademik

Techverse.asia - Salah satu konferensi pembelajaran mesin paling bergengsi di dunia telah melarang penulis menggunakan alat kecerdasan buatan atau artificial intelligence (AI) seperti ChatGPT untuk menulis makalah ilmiah, memicu perdebatan tentang peran teks yang dihasilkan AI dalam dunia akademis.

Konferensi Internasional tentang Pembelajaran Mesin atau International Conference on Machine Learning (ICML) mengumumkan kebijakan tersebut awal pekan ini, dengan menyatakan, “Makalah yang menyertakan teks yang dihasilkan dari model bahasa skala besar (LLM) seperti ChatGPT dilarang kecuali teks yang dihasilkan disajikan sebagai bagian dari analisis eksperimental kertas. Berita tersebut memicu diskusi luas di media sosial, dengan akademisi dan peneliti AI membela dan mengkritik kebijakan tersebut. Penyelenggara konferensi menanggapi dengan menerbitkan pernyataan yang lebih panjang yang menjelaskan pemikiran mereka.

Menurut ICML, munculnya model bahasa AI yang dapat diakses publik seperti ChatGPT — AI chatbot tujuan umum yang diluncurkan di web November lalu — mewakili perkembangan menarik yang tetap disertai dengan konsekuensi yang tidak terduga dan pertanyaan yang tidak terjawab. ICML mengatakan ini termasuk pertanyaan tentang siapa yang memiliki output dari sistem tersebut (mereka dilatih tentang data publik, yang biasanya dikumpulkan tanpa persetujuan dan kadang-kadang memuntahkan informasi ini kata demi kata) dan apakah teks dan gambar yang dihasilkan oleh AI harus dianggap baru atau hanya turunan dari karya yang ada.

Pertanyaan terakhir terkait dengan perdebatan rumit tentang kepenulisan - yaitu, siapa yang "menulis" teks yang dihasilkan AI: mesin atau pengontrol manusianya? Ini sangat penting mengingat ICML hanya melarang teks yang “diproduksi seluruhnya” oleh AI. Penyelenggara konferensi mengatakan bahwa mereka tidak melarang penggunaan alat seperti ChatGPT untuk mengedit atau memoles teks yang ditulis penulis dan mencatat bahwa banyak penulis telah menggunakan alat pengeditan semi-otomatis seperti perangkat lunak pengoreksi tata bahasa Grammarly untuk tujuan ini.

“Sudah pasti bahwa pertanyaan-pertanyaan ini, dan banyak lagi, akan terjawab dari waktu ke waktu, karena model generatif berskala besar ini lebih banyak diadopsi. Namun, kami belum memiliki jawaban yang jelas untuk semua pertanyaan ini,” tulis penyelenggara konferensi dikutip Techverse.asia, Senin (9/1/2023).

Akibatnya, ICML mengatakan larangan teks buatan AI akan dievaluasi ulang tahun depan. Namun, pertanyaan yang ditangani ICML mungkin tidak mudah diselesaikan. Ketersediaan alat AI seperti ChatGPT menyebabkan kebingungan bagi banyak organisasi, beberapa di antaranya telah merespons dengan larangan mereka sendiri. Tahun lalu, pengkodean situs Q&A Stack Overflow melarang pengguna mengirimkan tanggapan yang dibuat dengan ChatGPT, sementara Departemen Pendidikan Kota New York memblokir akses ke alat tersebut untuk siapa pun di jaringannya minggu ini.

Dalam setiap kasus, ada ketakutan yang berbeda tentang efek berbahaya dari teks yang dihasilkan AI. Salah satu yang paling umum adalah bahwa output dari sistem ini tidak dapat diandalkan. Alat AI ini adalah sistem pelengkapan otomatis yang luas, dilatih untuk memprediksi kata mana yang mengikuti kata berikutnya dalam kalimat tertentu.

Dengan demikian, mereka tidak memiliki basis data "fakta" yang dikodekan keras untuk digunakan - hanya kemampuan untuk menulis pernyataan yang terdengar masuk akal. Ini berarti mereka memiliki kecenderungan untuk menyajikan informasi palsu sebagai kebenaran karena apakah suatu kalimat terdengar masuk akal tidak menjamin faktualitasnya.

Dalam kasus pelarangan ICML atas teks yang dihasilkan AI, tantangan potensial lainnya adalah membedakan antara tulisan yang hanya “dipoles” atau “diedit” oleh AI dan tulisan yang “diproduksi seluruhnya” oleh alat ini. Pada titik apa sejumlah koreksi kecil yang dipandu AI merupakan penulisan ulang yang lebih besar? Bagaimana jika pengguna meminta alat AI untuk meringkas makalah mereka dalam abstrak yang tajam? Apakah ini dianggap sebagai teks yang baru dibuat (karena teksnya baru) atau sekadar pemolesan (karena ini adalah ringkasan kata-kata yang ditulis penulis)?

Sebelum ICML mengklarifikasi kewenangan kebijakannya, banyak peneliti khawatir bahwa potensi larangan teks yang dihasilkan AI juga dapat berbahaya bagi mereka yang tidak berbicara atau menulis bahasa Inggris sebagai bahasa pertama mereka. Profesor Yoav Goldberg dari Universitas Bar-Ilan di Israel mengatakan bahwa larangan menyeluruh atas penggunaan alat tulis AI akan menjadi tindakan penjaga gerbang terhadap komunitas ini.

“Ada bias bawah sadar yang jelas saat mengevaluasi makalah dalam tinjauan sejawat untuk memilih yang lebih lancar, dan ini menguntungkan penutur asli,” kata Goldberg.

Menurutnya, dengan menggunakan alat seperti ChatGPT untuk membantu mengutarakan ide mereka, tampaknya banyak penutur non-pribumi percaya bahwa mereka dapat 'menyejajarkan lapangan permainan' seputar masalah ini. Alat semacam itu mungkin dapat membantu peneliti menghemat waktu, kata Goldberg, serta berkomunikasi lebih baik dengan rekan-rekan mereka.

Tetapi alat tulis AI juga secara kualitatif berbeda dari perangkat lunak yang lebih sederhana seperti Grammarly. Deb Raji, seorang peneliti AI di Mozilla Foundation, mengatakan bahwa masuk akal bagi ICML untuk memperkenalkan kebijakan yang secara khusus ditujukan untuk sistem ini. Senada dengan yang disampaikan Goldberg, dia mengatakan bahwa dia mendengar dari penutur bahasa Inggris non-pribumi bahwa alat semacam itu dapat "sangat berguna" untuk membuat draf makalah, dan menambahkan bahwa model bahasa memiliki potensi untuk membuat perubahan yang lebih drastis pada teks.

“Saya melihat LLM sangat berbeda dari sesuatu seperti koreksi otomatis atau Grammarly, yang merupakan alat korektif dan pendidikan. Meskipun dapat digunakan untuk tujuan ini, LLM tidak secara eksplisit dirancang untuk menyesuaikan struktur dan bahasa teks yang sudah ditulis — LLM juga memiliki kemampuan lain yang lebih bermasalah, seperti pembuatan teks novel dan spam,” kata Raji.

Goldberg mengatakan bahwa meskipun menurutnya sangat mungkin bagi para akademisi untuk membuat makalah sepenuhnya menggunakan AI, hanya ada sedikit insentif bagi mereka untuk benar-benar melakukannya. “Pada akhirnya penulis menandatangani di atas kertas, dan memiliki reputasi untuk dipegang,” katanya.

Bahkan jika kertas palsu itu entah bagaimana melewati tinjauan sejawat, pernyataan yang salah akan dikaitkan dengan penulis, dan 'tetap' dengan mereka untuk seluruh karier mereka. Poin ini sangat penting mengingat tidak ada cara yang sepenuhnya dapat diandalkan untuk mendeteksi teks yang dihasilkan AI.

Bahkan ICML mencatat bahwa deteksi yang sangat mudah itu “sulit” dan bahwa konferensi tidak akan secara proaktif menegakkan larangannya dengan menjalankan pengiriman melalui perangkat lunak detektor. Sebaliknya, itu hanya akan menyelidiki kiriman yang telah ditandai oleh akademisi lain sebagai tersangka.

Dengan kata lain, dalam menanggapi munculnya teknologi baru yang mengganggu, penyelenggara mengandalkan mekanisme sosial tradisional untuk menegakkan norma akademik. AI dapat digunakan untuk memoles, mengedit, atau menulis teks, tetapi masih tergantung pada manusia untuk menilai nilainya.