X Rilis Fitur Edit Foto Berbasis AI, Pakar Ingatkan Bahaya Deepfake

Harianjogja.com, JOGJA—Platform media sosial X resmi meluncurkan fitur edit foto berbasis kecerdasan buatan yang memungkinkan pengguna memodifikasi gambar hanya dengan perintah teks, namun menuai kekhawatiran serius terkait potensi penyebaran deepfake.

Kemampuan untuk memodifikasi foto milik orang lain hanya melalui perintah teks dinilai menjadi tantangan baru bagi keamanan informasi di ruang digital.

Sebelumnya, integrasi AI di platform X hanya terbatas pada pembuatan gambar dari teks (text-to-image). Kini, teknologi tersebut melangkah lebih jauh. Pengguna dapat memilih foto apa pun yang beredar di linimasa, lalu mengeditnya secara instan.

Reuters mengungkapkan, setiap foto yang diunggah di platform akan memiliki tombol "Edit". Saat tombol tersebut diklik, pengguna cukup memasukkan instruksi atau perintah teks (prompt) untuk memodifikasi gambar. Sistem AI kemudian akan menghasilkan dua varian hasil modifikasi yang berbeda berdasarkan instruksi tersebut.

Salah satu poin yang paling kontroversial adalah masalah perlindungan konten. Hingga saat ini, belum ada opsi atau pengaturan yang memungkinkan pengguna untuk memproteksi foto mereka agar tidak diedit oleh orang lain.

Fitur ini sudah mulai diaktifkan pada versi situs web X dan dijadwalkan segera hadir di aplikasi seluler (Android dan iOS). Ketiadaan mekanisme perlindungan ini dinilai dapat memperburuk masalah misinformasi, manipulasi konten visual, serta pelanggaran hak cipta di platform milik Elon Musk tersebut.

Langkah X dalam mengintegrasikan AI generatif ini menuai kritik tajam dari berbagai aktivis keamanan digital. Beberapa potensi risiko yang diidentifikasi meliputi:

- Penyebaran Deepfake: Memudahkan pembuatan konten manipulatif yang tampak sangat realistis.

- Propaganda dan Misinformasi: Foto asli dapat diubah konteksnya untuk kepentingan politik atau kampanye hitam.

- Pelecehan Digital: Risiko penggunaan foto pribadi untuk konten yang merugikan atau mempermalukan individu.

- Konten Penipuan: Mempercepat pembuatan bukti visual palsu untuk keperluan penipuan daring.

Kemudahan memanipulasi gambar milik orang lain tanpa izin menghadirkan tantangan besar bagi kepercayaan pengguna terhadap konten visual di media sosial. Para ahli menyarankan agar platform segera menyediakan label otomatis pada gambar hasil editan AI guna meminimalisasi dampak negatif bagi publik.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.