Roblox Tambahkan Fitur Penyaring Obrolan Berbasis AI untuk Kata-kata Terlarang

Techverse.asia - Roblox telah resmi memperkenalkan fitur pengubahan kalimat obrolan berbasis Artificial Intelligence (AI) atau kecerdasan buatan secara real-time (waktu nyata) yang secara otomatis akan mengganti kata-kata terlarang dengan bahasa yang lebih sopan. Fitur baru ini melampaui filter teks Roblox saat ini, yang hanya mengganti kata dan frasa terlarang dengan simbol "#".

Permainan daring (online) ini telah menggunakan filter kecerdasan buatan untuk memblokir bahasa apa pun yang bertentangan dengan kebijakannya selama beberapa waktu, tetapi sebelumnya mengganti obrolan yang disensor dengan serangkaian tanda pagar (####).

Roblox mengakui bahwa terlalu banyak tanda pagar dapat mengganggu dan membuat percakapan sulit diikuti. Sekarang, alih-alih hanya menampilkan tanda pagar, teks yang difilter akan diubah menjadi bahasa yang lebih sopan dan mendekati maksud asli pengguna.

Kepala Keamanan Roblox Rajiv Bhatia mengatakan bahwa gim ini dimulai dengan kata-kata kasar. Misalnya, jika pengguna mengirim chat "Hurry TF up" di obrolan, maka sistem akan langsung menggantinya dengan "Hurry up!"

Semua orang di obrolan pun akan melihat pemberitahuan ketika sebuah pesan telah diubah susunannya, dan pengirim akan melihat bahasa apa yang telah disunting. “Obrolan sangat penting bagi cara orang terhubung, berkoordinasi, dan bermain di Roblox,” katanya lewat keterangan tertulisnya kami sadur, Jumat (13/2/2026).

Pengubahan susunan kata secara waktu nyata, sambungnya, ikut membantu menjaga permainan dan percakapan tetap pada jalurnya sambil mengarahkan bahasa ke arah yang pantas. Pendekatan ini mengurangi gesekan dalam obrolan sambil mempertahankan standar yang membantu menjaga komunitas kita tetap beradab.

Sementara itu, bagi pengguna yang terus mengumpat dalam obrolan akan tetap dihukum karena melanggar kebijakan Roblox meskipun AI mengubah susunan pesan mereka. “Seiring sistem ini berkembang, mereka menciptakan roda penggerak untuk kesopanan, di mana umpan balik waktu nyata membantu pengguna belajar dan mengadopsi standar komunitas kami,” ujar dia.

Roblox juga mencatat bahwa meskipun pengubahan susunan kata mengurangi beberapa gangguan dalam obrolan, sistem keamanannya tetap berlaku untuk perilaku yang lebih serius. Fitur baru ini didukung di semua bahasa yang saat ini sudah tersedia melalui alat terjemahan otomatis Roblox.

Perusahaan juga akan meningkatkan sistem penyaringan teks untuk mendeteksi lebih banyak variasi bahasa terlarang. Roblox menyatakan bahwa hasil awal menunjukkan sistem semakin baik dalam mendeteksi leetspeak, dan upaya yang lebih canggih untuk melewati filter.

Hal ini memungkinkan perusahaan untuk mengurangi prevalensi false negative saat berbagi atau meminta informasi pribadi hingga dua puluh kali lipat.

Pengubahan kalimat telah diterapkan pada obrolan antara pengguna yang telah diverifikasi usianya dalam kelompok usia yang serupa dan dalam semua bahasa yang didukung oleh alat terjemahan dalam gim tersebut.

Roblox sebelumnya telah memperkenalkan sistem verifikasi usia wajib pada Januari tahun ini setelah muncul laporan bahwa mereka memiliki "masalah pedofilia," dengan pemain dewasa diduga menggunakan gim tersebut untuk merayu anak-anak.

Anak-anak di bawah usia 13 tahun tidak lagi dapat menggunakan obrolan dalam gim di luar pengalaman tertentu, sedangkan yang lain dapat mengobrol dengan pemain seusia mereka.

Namun demikian, verifikasi usia tidak menghentikan pihak berwenang untuk menuntut Roblox: LA County, dalam gugatan yang diajukan pada Februari 2026, yang mentatakan Roblox mengetahui pelantarnya "membuat anak-anak menjadi mangsa mudah bagi pedofil."

Jaksa Agung Louisiana di Amerika Serikat (AS) juga baru saja mengajukan gugatan, dengan mengatakan bahwa Roblox menciptakan taman umum dan mengisinya dengan predator seksual yang memangsa anak-anak.