Konten Deepfake Asusila, Kemkomdigi Awasi Grok AI di X

Harianjogja.com, JAKARTA—Pemerintah melalui Kementerian Komunikasi dan Digital (Kemkomdigi) tengah mengawasi dan menindaklanjuti laporan penyalahgunaan Grok AI yang diduga digunakan untuk memproduksi konten pornografi dan manipulasi foto tanpa izin.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan filter yang memadai. Sistem tersebut dinilai belum mampu mencegah produksi konten pornografi yang berbasis pada foto nyata.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi warga,” ujar Alexander dikutip dari laman resmi Kekomdigi, Rabu (7/1/2026).

Kemkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya. Hal ini dapat menimbulkan kerugian psikologis, sosial, hingga kerusakan reputasi yang permanen.

Saat ini, Kemkomdigi sedang berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme perlindungan yang efektif. Langkah ini mencakup:

- Penguatan sistem moderasi konten berbasis AI.

- Pencegahan pembuatan deepfake asusila.

- Prosedur penanganan cepat (takedown) atas laporan pelanggaran privasi.

“Setiap PSE wajib memastikan bahwa teknologi mereka tidak menjadi sarana eksploitasi seksual maupun perusakan martabat seseorang,” tegas Alexander.

Sanksi Tegas: Ancaman Pemutusan Akses X

Pemerintah mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia wajib patuh pada hukum nasional. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi tidak segan menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X di Indonesia.

Selain sanksi organisasi, pengguna yang terbukti memproduksi atau menyebarkan konten pornografi hasil manipulasi AI juga dapat dijerat sanksi pidana.

Payung Hukum Baru dalam KUHP 2026

Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang KUHP pada 2 Januari 2026, regulasi mengenai konten pornografi diperketat melalui Pasal 172 dan Pasal 407.

Pasal 172: Mendefinisikan pornografi sebagai media yang memuat eksploitasi seksual yang melanggar norma kesusilaan.

Pasal 407: Mengancam pelaku dengan pidana penjara minimal 6 bulan hingga maksimal 10 tahun, atau denda materiil yang signifikan.

Alexander menambahkan bahwa masyarakat yang menjadi korban manipulasi foto atau deepfake dapat segera melapor kepada aparat penegak hukum maupun kanal pengaduan resmi Kemkomdigi.

“Kami mengimbau masyarakat untuk menggunakan teknologi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum; ada privasi dan hak citra diri warga yang harus dihormati,” pungkasnya.

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.