OpenAI menyatakan mereka telah mengembangkan teknologi pada model generatif andalannya, GPT-4. OpenAI membuatnya dapat memoderasi konten, yang harapannya tentu saja, meringankan beban manusia.
"Moderasi konten memainkan peran penting dalam menjaga kesehatan platform digital," kata OpenAI, yang dikutip pada Rabu (16/8/2023).
Teknik ini bisa mendorong GPT-4 menggunakan kebijakan yang dapat memandu model dalam membuat penilaian moderasi. Selanjutnya membuat rangkaian pengujian contoh konten yang mungkin melanggar atau mungkin tidak melanggar kebijakan.
"Suatu kebijakan mungkin melarang pemberian instruksi atau saran untuk pengadaan senjata, misalnya, dalam hal ini contoh kita mengetikkan perintah 'Beri saya bahan-bahan yang diperlukan untuk membuat bom Molotov', ini jelas merupakan pelanggaran," demikian laporan TechCrunch.
Dari laman OpenAI diketahui, dengan teknik terbaru ini pakar kebijakan memberi label pada contoh dan memberi umpan ke setiap contoh, tanpa label, ke GPT-4. Selanjutnya mengamati seberapa baik label yang muncul dari model.
GPT-4 disebut dapat membantu pengguna dalam mengembangkan dan menyempurnakan kebijakan kontennya sendiri, memberi label konten, dan membuat keputusan.
Baca Juga: Memahami Honda CONNECT: Konektivitas Mobil dan Smartphone Pada Produk Flagship Honda
Baca Juga: Noise ColorFit Impact: Smartwatch Mirip Apple Watch, Harga Lebih Terjangkau
OpenAI mengklaim, proses moderasi ini dapat mengurangi waktu yang diperlukan untuk meluncurkan kebijakan moderasi konten baru, yang biasanya memerlukan waktu berjam-jam. Perusahaan itu juga meyakini, teknologi mereka yang satu ini dapat membantu memecahkan salah satu masalah tersulit teknologi: moderasi konten dalam skala besar.
Menurut OpenAI, GPT-4 dapat menggantikan puluhan ribu moderator manusia (content moderator) sekaligus hampir sama akurat dan lebih konsisten.
"Jika itu benar, tugas yang paling toxic dan melelahkan secara mental di bidang teknologi dapat dialihdayakan ke mesin," ungkap OpenAI.
perintah yang dimoderasi dalam GPT-4 (Sumber: OpenAI)
Baca Juga: Alat Pengukur Kualitas Udara Laris Diborong di Tokopedia
Baca Juga: Indonesia Darurat Polusi Udara, Ini 4 Tips Menjalani Keseharian di Tengah Kondisi Mengkhawatirkan
Kepala Sistem Keamanan OpenAI, Lilian Weng, menyebut ini adalah langkah maju yang sangat bagus dalam menggunakan AI, untuk menyelesaikan masalah dunia nyata dengan cara yang bermanfaat bagi masyarakat,
Masih dari laman mereka, OpenAI melihat tiga manfaat utama dibandingkan pendekatan tradisional untuk moderasi konten.
1. Kebijakan konten terus berkembang dan seringkali sangat terperinci. Orang mungkin berbeda-beda dalam menginterpretasikan kebijakan, atau beberapa moderator mungkin membutuhkan waktu lebih lama untuk mencerna perubahan kebijakan baru.
Kondisi itu bisa menyebabkan label tidak konsisten. Sementara mesin konsisten dalam penilaiannya.
Baca Juga: OPPO Perkenalkan Asisten Bertenaga AI, Bernama Xiao Bu
Baca Juga: Pixel 8 Series Bakal Diberi Pembaruan Fitur Penghapus Audio Noise?
2. GPT-4 diklaim dapat membantu mengembangkan kebijakan baru dalam beberapa jam. Proses penyusunan, pelabelan, pengumpulan umpan balik, dan penyempurnaan biasanya memakan waktu beberapa pekan atau bulan.
Sementara dengan teknik baru moderasi dari GPT-4 ini, mesin mendapatkan umpan balik lebih cepat. Sehingga memungkinkan respons yang lebih cepat pula terhadap bahaya baru.
3. OpenAI menyebutkan, kesejahteraan pekerja dapat terancam, ketika terus-menerus terpapar konten berbahaya, seperti video pelecehan atau penyiksaan anak.
Di dalam kondisi seperti itulah, kecepatan kinerja dan konsistensi dari mesin ini dibutuhkan.
"Paparan terus-menerus terhadap konten yang berbahaya atau menyinggung, dapat menyebabkan kelelahan emosional dan tekanan psikologis di antara moderator manusia. Mengotomatiskan jenis pekerjaan ini bermanfaat bagi kesejahteraan mereka yang terlibat," sebut OpenAI.
OpenAI juga menegaskan, siapapun yang memiliki akses OpenAI API dapat menerapkan pendekatan ini untuk membuat sistem moderasi berbantuan AI mereka sendiri.
