OpenAI Hadirkan Teknologi Moderasi Konten di GPT-4, Diklaim Membantu Kurangi Lelah dan Beban Mental dalam Pekerjaan

OpenAI menyatakan mereka telah mengembangkan teknologi pada model generatif andalannya, GPT-4. OpenAI membuatnya dapat memoderasi konten, yang harapannya tentu saja, meringankan beban manusia.

"Moderasi konten memainkan peran penting dalam menjaga kesehatan platform digital," kata OpenAI, yang dikutip pada Rabu (16/8/2023).

Teknik ini bisa mendorong GPT-4 menggunakan kebijakan yang dapat memandu model dalam membuat penilaian moderasi. Selanjutnya membuat rangkaian pengujian contoh konten yang mungkin melanggar atau mungkin tidak melanggar kebijakan.

"Suatu kebijakan mungkin melarang pemberian instruksi atau saran untuk pengadaan senjata, misalnya, dalam hal ini contoh kita mengetikkan perintah 'Beri saya bahan-bahan yang diperlukan untuk membuat bom Molotov', ini jelas merupakan pelanggaran," demikian laporan TechCrunch.

Dari laman OpenAI diketahui, dengan teknik terbaru ini pakar kebijakan memberi label pada contoh dan memberi umpan ke setiap contoh, tanpa label, ke GPT-4. Selanjutnya mengamati seberapa baik label yang muncul dari model.

GPT-4 disebut dapat membantu pengguna dalam mengembangkan dan menyempurnakan kebijakan kontennya sendiri, memberi label konten, dan membuat keputusan.

OpenAI mengklaim, proses moderasi ini dapat mengurangi waktu yang diperlukan untuk meluncurkan kebijakan moderasi konten baru, yang biasanya memerlukan waktu berjam-jam. Perusahaan itu juga meyakini, teknologi mereka yang satu ini dapat membantu memecahkan salah satu masalah tersulit teknologi: moderasi konten dalam skala besar.

Menurut OpenAI, GPT-4 dapat menggantikan puluhan ribu moderator manusia (content moderator) sekaligus hampir sama akurat dan lebih konsisten.

"Jika itu benar, tugas yang paling toxic dan melelahkan secara mental di bidang teknologi dapat dialihdayakan ke mesin," ungkap OpenAI.

perintah yang dimoderasi dalam GPT-4 (Sumber: OpenAI)

Kepala Sistem Keamanan OpenAI, Lilian Weng, menyebut ini adalah langkah maju yang sangat bagus dalam menggunakan AI, untuk menyelesaikan masalah dunia nyata dengan cara yang bermanfaat bagi masyarakat,

Masih dari laman mereka, OpenAI melihat tiga manfaat utama dibandingkan pendekatan tradisional untuk moderasi konten.

1. Kebijakan konten terus berkembang dan seringkali sangat terperinci. Orang mungkin berbeda-beda dalam menginterpretasikan kebijakan, atau beberapa moderator mungkin membutuhkan waktu lebih lama untuk mencerna perubahan kebijakan baru.

Kondisi itu bisa menyebabkan label tidak konsisten. Sementara mesin konsisten dalam penilaiannya.

2. GPT-4 diklaim dapat membantu mengembangkan kebijakan baru dalam beberapa jam. Proses penyusunan, pelabelan, pengumpulan umpan balik, dan penyempurnaan biasanya memakan waktu beberapa pekan atau bulan.

Sementara dengan teknik baru moderasi dari GPT-4 ini, mesin mendapatkan umpan balik lebih cepat. Sehingga memungkinkan respons yang lebih cepat pula terhadap bahaya baru.

3. OpenAI menyebutkan, kesejahteraan pekerja dapat terancam, ketika terus-menerus terpapar konten berbahaya, seperti video pelecehan atau penyiksaan anak.

Di dalam kondisi seperti itulah, kecepatan kinerja dan konsistensi dari mesin ini dibutuhkan.

"Paparan terus-menerus terhadap konten yang berbahaya atau menyinggung, dapat menyebabkan kelelahan emosional dan tekanan psikologis di antara moderator manusia. Mengotomatiskan jenis pekerjaan ini bermanfaat bagi kesejahteraan mereka yang terlibat," sebut OpenAI.

OpenAI juga menegaskan, siapapun yang memiliki akses OpenAI API dapat menerapkan pendekatan ini untuk membuat sistem moderasi berbantuan AI mereka sendiri.