X Blokir Edit Gambar Asusila di Grok AI Usai Dikecam

Harianjogja.com, JOGJA —Platform X memblokir fitur edit gambar asusila di Grok AI setelah menuai kecaman global terkait penyalahgunaan deepfake pornografi.

Kebijakan ini diumumkan pada Rabu (14/1/2026) malam, menyusul kecaman global terkait kemampuan Grok memanipulasi foto menjadi konten pornografi (deepfake).

Langkah tegas ini diambil setelah terungkapnya kemampuan Grok untuk "menelanjangi" individu dewasa hingga melibatkan konten anak-anak. Melalui akun resmi tim keamanannya, X menyatakan telah menerapkan pembatasan teknologi untuk mencegah penyalahgunaan tersebut.

Pembatasan Ketat untuk Semua Pengguna
"Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan yang mengenakan pakaian terbuka seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar," tulis perusahaan, seperti dilaporkan CNN, Kamis (15/1/2026).

Selain itu, X memperketat akses fitur pembuatan gambar yang kini hanya tersedia eksklusif bagi pelanggan X Premium. Perubahan ini dilakukan setelah peneliti dari AI Forensics menemukan ketidakkonsistenan penanganan konten pornografi pada Grok antara interaksi publik dan percakapan pribadi di situs Grok.com.

Komitmen Terhadap Penanganan Konten Ilegal
Pihak X menegaskan komitmennya dalam memerangi Materi Pelecehan Seksual Anak (Child Sexual Abuse Material/CSAM). "Kami mengambil tindakan terhadap konten ilegal di X dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan penegak hukum," tegas perusahaan.

Pengguna yang sengaja mendorong Grok untuk menghasilkan konten ilegal akan menerima konsekuensi hukum yang setara dengan mengunggah konten tersebut secara langsung ke platform.

Elon Musk selaku pemilik X turut memberikan pernyataan. Melalui unggahannya, Musk mengaku tidak mengetahui adanya gambar anak di bawah umur yang dihasilkan oleh Grok. "Saya tidak mengetahui adanya gambar anak di bawah umur telanjang yang dihasilkan oleh Grok. Benar-benar tidak tahu," ujarnya. Ia menambahkan bahwa operasional Grok akan selalu mematuhi hukum di setiap yurisdiksi.

Tekanan Regulasi dan Pemblokiran di Indonesia
Meski telah diperketat, para peneliti menyoroti celah hukum pada modifikasi gambar anak yang mengenakan pakaian terbuka atau pose bernuansa seksual. Praktik ini berpotensi melanggar Take It Down Act, undang-undang yang ditandatangani oleh Presiden AS Donald Trump tahun lalu.

Dikutip dari BBC, tekanan internasional telah membuahkan tindakan nyata. Indonesia dan Malaysia resmi menjadi negara pertama di dunia yang mengambil langkah prohibisi dengan memblokir akses ke Grok AI.

Kebijakan blokir ini diambil karena Grok dinilai mampu menghasilkan deepfake bermuatan seksual yang merugikan perempuan dan anak-anak. Komisi Komunikasi dan Multimedia Malaysia menyebut respons X selama ini belum memadai karena lebih fokus pada pelaporan pengguna dibandingkan perbaikan desain sistem yang aman.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.