AI Grok Disorot Dunia akibat Deepfake Seksual Anak

Harianjogja.com, JOGJA—Penyalahgunaan AI Grok untuk memproduksi gambar seksual anak dan perempuan memicu reaksi keras pemerintah dunia.

Dalam sepekan terakhir, sejumlah pengguna dilaporkan memanipulasi fitur Grok untuk mengubah foto asli menjadi konten asusila secara digital.

AI tersebut mampu memproses perintah untuk membuat subjek foto tampak mengenakan pakaian minim atau bahkan tanpa busana.

"Dengan perintah tertentu, AI tersebut dapat menghasilkan gambar seolah-olah subjek dalam foto mengenakan pakaian minim, berbikini, atau bahkan tampak 'dilucuti' secara digital," dikutip dari laporan situs Business Insider.

Meski secara resmi melarang konten pornografi dan eksploitasi anak dalam kebijakan penggunaan mereka, kenyataan di lapangan menunjukkan pengamanan sistem yang lemah. Hingga saat ini, pihak xAI belum memberikan pernyataan substantif terkait kegagalan filter mereka.

"Padahal, kebijakan 'Acceptable Use' dari xAI secara tegas melarang penggunaan AI untuk menampilkan kemiripan seseorang dalam konteks pornografi, serta melarang segala bentuk seksualisasi atau eksploitasi anak."

Dampak dari skandal ini memicu respons keras dari pemerintah dunia:

- Prancis: Kejaksaan Paris memulai penyelidikan pidana dengan ancaman hukuman hingga dua tahun penjara bagi pelaku penyebaran deepfake.

- India: Kementerian Elektronika dan Teknologi Informasi (MeitY) mendesak peninjauan teknis total dan penghapusan konten ilegal.

- Inggris: Pemerintah secara terbuka mempertanyakan komitmen Elon Musk dalam melindungi perempuan dari kekerasan digital.

Pihak pengembang melalui akun resmi Grok di X akhirnya mengakui adanya kelemahan dalam sistem pengaman mereka. Perbaikan mendesak tengah dilakukan setelah ditemukan kasus di mana pengguna berhasil memproduksi gambar anak-anak dengan pakaian minim.

"Ketika dimintai tanggapan, xAI hanya mengirimkan balasan otomatis yang tidak secara langsung menanggapi isu tersebut."

Kasus ini mempertegas urgensi regulasi AI yang adaptif. Batasan antara platform sebagai penyedia jasa dan tanggung jawab moral atas konten yang dihasilkan kini menjadi perdebatan utama di tingkat global.

"Menanggapi laporan mengenai pembuatan gambar seksual anak, akun resmi Grok di X menyatakan bahwa pihaknya telah mengidentifikasi celah dalam sistem pengaman dan tengah melakukan perbaikan secara mendesak."

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.