Grok Dilarang Edit Foto Terbuka di Seluruh Platform X

Harianjogja.com, JAKARTA—Platform media sosial X kembali memperketat aturan penggunaan kecerdasan buatan (AI) Grok. Perusahaan kini melarang chatbot tersebut mengedit foto orang yang mengenakan pakaian terbuka seperti bikini, baik untuk pengguna berlangganan maupun gratis.

Kebijakan baru ini diungkapkan X melalui akun resmi @Safety. Langkah tersebut diambil menyusul sorotan publik dalam beberapa pekan terakhir terkait dugaan pembuatan gambar bernuansa seksual tanpa persetujuan, termasuk yang menampilkan anak di bawah umur.

Mengutip laporan Engadget, Kamis (15/1/2026), X tidak hanya membatasi fitur penyuntingan gambar, tetapi juga membatasi akses pembuatan gambar Grok. Fitur tersebut kini hanya dapat digunakan oleh pengguna berbayar, sementara pengguna gratis tidak lagi memiliki akses untuk membuat gambar melalui chatbot tersebut.

Selain itu, X juga menerapkan pemblokiran otomatis terhadap pembuatan gambar seseorang yang mengenakan pakaian terbuka, seperti bikini atau pakaian dalam, di negara-negara yang melarang hal tersebut berdasarkan hukum setempat.

Pengumuman itu muncul hanya beberapa jam setelah Jaksa Agung California memulai penyelidikan terhadap xAI dan Grok terkait pengelolaan konten bermuatan seksual dan dugaan eksploitasi anak.

Hasil analisis awal menunjukkan sekitar separuh dari 20.000 gambar yang dihasilkan xAI antara Natal 2025 dan Tahun Baru 2026 menggambarkan orang dalam pakaian minim, sebagian di antaranya terlihat seperti anak-anak.

X menegaskan pihaknya menerapkan kebijakan tanpa toleransi terhadap eksploitasi anak dan secara aktif menghapus konten pelanggaran prioritas tinggi, termasuk materi pelecehan seksual anak maupun konten seksual yang dibuat tanpa persetujuan.

CEO xAI Elon Musk sebelumnya menyatakan tidak mengetahui adanya gambar anak tidak pantas yang dihasilkan Grok. Ia kemudian menjelaskan bahwa ketika opsi pembatasan konten berisiko diaktifkan, Grok hanya boleh menampilkan ketelanjangan tubuh bagian atas dari karakter fiktif dewasa, serupa dengan tayangan film dewasa yang tersedia di Apple TV.

Musk menambahkan bahwa kebijakan tersebut tidak diterapkan secara seragam di seluruh dunia dan akan menyesuaikan aturan hukum masing-masing negara.

Sejumlah negara telah lebih dulu mengambil langkah pembatasan. Malaysia dan Indonesia memblokir akses terhadap Grok karena kekhawatiran terkait keamanan dan potensi penyebaran konten seksual yang dihasilkan AI. Sementara itu, otoritas komunikasi Inggris, Ofcom, juga membuka penyelidikan resmi dan menyatakan siap mendukung pemblokiran apabila diperlukan.

Cek Berita dan Artikel yang lain di Google News

Sumber : Antara