Ratusan Aplikasi Deepfake Seksual Lolos dari Pengawasan Apple dan Google

Harianjogja.com, JOGJA—Pengguna ponsel perlu lebih berhati-hati saat mengunduh aplikasi, termasuk layanan yang terlihat tidak berbahaya. Investigasi terbaru menemukan lebih dari 400 aplikasi di App Store dan Google Play Store diduga menyimpan fitur tersembunyi untuk membuat konten deepfake seksual dan kekerasan.

Temuan majalah Wired tersebut mengungkap jaringan aplikasi yang tersebar di toko aplikasi milik Apple dan Google. Dikutip dari 9to5Mac, ratusan aplikasi itu diduga kuat dikembangkan oleh satu organisasi yang berasal dari Tiongkok.

Di permukaan, aplikasi-aplikasi tersebut menawarkan layanan yang tampak wajar. Ada yang menyamar sebagai aplikasi pembelajaran bahasa, pelatih kebugaran, hingga layanan untuk menambahkan pakaian pada foto hewan peliharaan, seperti Viefur.

Namun, tampilan yang terlihat aman ternyata tidak sepenuhnya menggambarkan fungsi aplikasi. Dalam kondisi tertentu, aplikasi dapat memuat antarmuka berbasis web secara diam-diam.

Melalui fitur tersembunyi itu, pengguna bisa mengunggah foto seseorang untuk diolah menjadi gambar maupun video deepfake. Konten yang tersedia bahkan mencakup templat adegan kekerasan seksual dan ancaman menggunakan senjata tajam.

Fitur tersebut berpotensi dimanfaatkan untuk melecehkan, mempermalukan, mengintimidasi, hingga memeras seseorang. Artinya, foto pribadi yang diunggah atau digunakan tanpa persetujuan pemiliknya dapat menjadi bahan pembuatan konten manipulatif yang merugikan korban.

Modus Bait-and-Switch untuk Mengelabui Apple dan Google

Jaringan pengembang aplikasi tersebut diduga menggunakan taktik bait-and-switch untuk melewati sistem peninjauan Apple dan Google.

Dalam metode ini, aplikasi awalnya menampilkan fungsi dan konten yang tidak berbahaya ketika diperiksa oleh tim peninjau. Setelah dinyatakan lolos, pengembang diduga mengubah pengaturan pada server pusat sehingga fitur tersembunyi dapat diaktifkan.

Dengan cara tersebut, aplikasi yang semula terlihat aman bisa memiliki fungsi berbeda setelah tersedia bagi pengguna.

Akses terhadap fitur tersembunyi itu juga diduga dipicu melalui tautan yang disebarkan dalam ribuan iklan di Facebook dan Instagram. Kondisi ini membuat pengguna berpotensi mengunduh aplikasi tanpa mengetahui fungsi sebenarnya.

Apple Hapus 19 Aplikasi, Meta Tindak Ribuan Akun Iklan

Temuan tersebut menjadi sorotan karena Apple, Google, dan Meta sebenarnya memiliki kebijakan yang melarang konten deepfake berbahaya. Meski demikian, sebagian aplikasi yang teridentifikasi dilaporkan sempat beroperasi hingga satu tahun.

Menanggapi hasil investigasi itu, Apple menghapus 19 aplikasi yang berkaitan dengan jaringan tersebut. Perusahaan menyatakan para pengembang telah memanipulasi konten berbasis web setelah aplikasi mereka melewati proses peninjauan.

Apple juga mengklaim telah memperketat sistem perlindungan untuk mencegah penyalahgunaan serupa.

Sementara itu, Meta menyatakan telah menindak lebih dari 10.000 akun iklan yang terhubung dengan jaringan aplikasi berbahaya tersebut.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.