Roblox Pakai AI untuk Sensor Bahasa Kasar Pemain

Harianjogja.com, JOGJA—Platform gim daring populer Roblox memperkenalkan fitur baru berbasis kecerdasan buatan (AI) untuk menyaring bahasa kasar dalam percakapan pemain. Teknologi ini secara otomatis mengubah kata atau kalimat tidak pantas menjadi ungkapan yang lebih sopan.

Langkah tersebut menjadi bagian dari upaya meningkatkan keamanan pengguna, terutama anak-anak, di tengah berbagai kritik terkait perlindungan terhadap predator seksual di platform tersebut.

Dilansir dari Engadget pada Minggu (8/3/2026), sebelumnya Roblox telah menggunakan filter AI untuk memblokir kata atau frasa yang melanggar aturan komunitas. Namun sistem lama hanya mengganti pesan dengan tanda pagar (####), sehingga sering membuat percakapan sulit dipahami.

AI Mengubah Kata Kasar Jadi Kalimat Sopan

Melalui fitur terbaru ini, sistem AI akan mengganti kata atau kalimat yang dianggap tidak pantas dengan ungkapan yang lebih sopan tanpa menghilangkan konteks percakapan.

Chief Safety Officer Roblox, Rajiv Bhatia, mengatakan tahap awal fitur tersebut difokuskan pada penyaringan kata-kata kasar.

Sebagai contoh, jika pemain menulis kalimat "Hurry TF up", sistem akan mengubahnya menjadi "Hurry up".

Setiap pesan yang diubah akan disertai keterangan bahwa kalimat tersebut telah diparafrasekan oleh sistem. Pengirim pesan juga tetap dapat melihat bagian bahasa yang telah diedit oleh AI.

"Seiring sistem ini diperluas, hal tersebut dapat menciptakan efek berkelanjutan yang mendorong kesopanan, di mana umpan balik secara real-time membantu pengguna belajar dan menerapkan standar komunitas kami," kata Rajiv.

Fitur Berlaku untuk Pengguna Terverifikasi

Pada tahap awal penerapan, fitur parafrase AI ini hanya tersedia untuk percakapan antara pengguna yang telah melalui proses verifikasi usia dan berada dalam kelompok umur yang serupa.

Sistem tersebut juga dapat digunakan dalam berbagai bahasa yang telah didukung oleh teknologi penerjemahan Roblox.

Sebelumnya, pada Januari lalu, Roblox memperkenalkan sistem verifikasi usia sebagai bagian dari peningkatan perlindungan pengguna muda. Kebijakan ini diterapkan setelah muncul sejumlah laporan mengenai potensi risiko keamanan anak di platform tersebut.

Sebagai bagian dari aturan baru, pengguna berusia di bawah 13 tahun tidak lagi dapat menggunakan fitur obrolan dalam gim. Sementara itu, pemain lain hanya dapat berkomunikasi dengan pengguna yang berada dalam rentang usia yang sama.

Gugatan Terkait Keamanan Anak

Meski melakukan berbagai pembaruan fitur keamanan, Roblox masih menghadapi kritik dari sejumlah pihak di Amerika Serikat.

Pemerintah Los Angeles County pada Februari lalu mengajukan gugatan yang menilai Roblox mengetahui adanya potensi risiko pedofilia terhadap anak-anak di platform tersebut.

Gugatan lain juga diajukan oleh jaksa agung negara bagian Louisiana yang menuduh perusahaan belum melakukan upaya yang cukup dalam melindungi pengguna anak dari predator seksual.

Melalui fitur parafrase AI terbaru ini, Roblox berharap dapat menekan penyebaran konten negatif sekaligus menunjukkan komitmennya dalam menciptakan ruang bermain yang lebih aman bagi seluruh pengguna, khususnya anak-anak.

Cek Berita dan Artikel yang lain di Google News