PBB Peringatkan AI Bisa Jadi Ancaman Eksistensial bagi Manusia

Harianjogja.com, JOGJA—Perkembangan kecerdasan buatan atau artificial intelligence (AI) tingkat lanjut dinilai mulai membutuhkan pengamanan yang lebih ketat. Kepala HAM Perserikatan Bangsa-Bangsa (PBB) Volker Türk bahkan memperingatkan teknologi tersebut berpotensi menimbulkan risiko eksistensial bagi umat manusia.

Peringatan itu disampaikan Türk dalam pidatonya di Dewan Hak Asasi Manusia PBB di Jenewa, Senin (7/9/2026). Menurutnya, masyarakat dunia kini menghadapi ancaman terhadap hak asasi manusia yang tidak biasa dan bahkan belum pernah terjadi sebelumnya.

Karena itu, Türk mendesak negara-negara dan perusahaan teknologi untuk segera memperkuat tata kelola serta keamanan AI tingkat lanjut.

Ia meminta adanya pemeriksaan independen terhadap sistem AI sekaligus batasan yang disepakati bersama untuk mengantisipasi perkembangan teknologi yang berpotensi berada di luar kendali manusia.

“Kebutuhan akan tata kelola AI diakui secara luas, tetapi di mana tindakannya? Penundaan hanya menguntungkan perusahaan teknologi besar, pemiliknya, dan para pendukungnya,” ujar Türk dikutip dari AP.

Kekuasaan AI Dinilai Terlalu Terkonsentrasi

Türk juga menyoroti besarnya kekuasaan yang saat ini berada di tangan segelintir pihak dalam pengembangan AI.

Menurut dia, hanya sejumlah kecil orang yang memiliki pengaruh sangat besar terhadap teknologi yang terus berkembang dengan kemampuan komputasi semakin tinggi.

“Segelintir orang memiliki kekuasaan yang hampir tak terbatas atas AI, yang berulang kali kita diberitahu memiliki kapasitas komputasi yang tak terbayangkan. Mereka berbicara soal kebebasan, tetapi jika diperiksa lebih teliti, ternyata itu hanyalah kebebasan untuk mengeksploitasi data kita semua,” tegasnya.

Bagi Türk, persoalan tersebut bukan hanya berkaitan dengan kemampuan teknologi. Konsentrasi kendali atas AI juga berkaitan langsung dengan hak masyarakat atas data serta dampak penggunaan teknologi terhadap kehidupan manusia.

Ia menilai perkembangan AI harus dibarengi mekanisme pengawasan yang mampu memastikan teknologi tersebut tidak berkembang tanpa batas.

AI yang Keluar dari Pengujian Jadi Sorotan

Salah satu kekhawatiran Türk berkaitan dengan kemungkinan munculnya sistem AI yang terlalu kuat untuk dikendalikan melalui mekanisme yang telah disiapkan pengembang.

Ia secara khusus menyinggung kemungkinan AI keluar dari lingkungan pengujian atau bahkan melakukan tindakan untuk mencegah dirinya dihentikan.

Pernyataan tersebut muncul setelah sejumlah insiden keamanan yang melibatkan agen AI. Pada Juli 2026, OpenAI mengungkap bahwa model yang sedang menjalani evaluasi keamanan berhasil menerobos sejumlah kontrol yang dirancang untuk mengisolasinya dari internet.

Dalam insiden tersebut, agen AI kemudian mengakses sistem Hugging Face. OpenAI menyatakan model yang diuji berhasil mengeksploitasi kerentanan dalam infrastruktur pengujian untuk memperoleh akses internet dan selanjutnya mengakses sistem pihak ketiga.

Insiden itu menjadi salah satu contoh nyata yang memperkuat perdebatan mengenai keamanan AI tingkat lanjut.

Türk pun menyerukan agar pengembangan kemampuan AI tidak hanya mengejar peningkatan performa, tetapi juga memperhitungkan kemampuan sistem untuk beroperasi di luar batasan yang ditetapkan pengembang.

Perusahaan AI Akan Didesak Bertindak

Türk mengatakan akan mengirim surat kepada sejumlah perusahaan AI dalam beberapa hari mendatang.

Surat tersebut akan berisi desakan agar perusahaan segera mengambil langkah untuk mengurangi risiko yang masih berada dalam kendali mereka.

Ia juga meminta negara-negara yang menjadi pusat pengembangan AI serta pihak yang terlibat dalam rantai pasok teknologi tersebut bekerja sama menetapkan batasan yang jelas.

Menurut Türk, diperlukan garis batas atau red lines yang disepakati bersama agar perkembangan AI tidak hanya ditentukan oleh kepentingan perusahaan atau segelintir negara.

Selain itu, ia mendorong adanya verifikasi independen serta kerja sama keamanan yang lebih kuat di antara perusahaan teknologi.

Dampak AI Tak Hanya Soal Teknologi

Peringatan PBB tersebut juga menyentuh dampak AI terhadap kehidupan masyarakat sehari-hari.

Türk mengatakan perkembangan teknologi perlu dilihat dari perspektif hak asasi manusia, termasuk pengaruhnya terhadap dunia kerja, demokrasi, hingga lingkungan.

"Kita juga perlu mempertimbangkan dampak hak asasi manusia dari AI terhadap praktik ketenagakerjaan, terhadap prinsip-prinsip dasar demokrasi, dan terhadap lingkungan kita," tandas Türk.

Bagi masyarakat, perkembangan tersebut menunjukkan bahwa perdebatan mengenai AI tidak lagi terbatas pada kemampuan membuat teks, gambar, kode, atau menjalankan tugas secara otomatis.

Semakin mandiri sebuah sistem AI dalam mengambil tindakan dan berinteraksi dengan sistem lain, semakin besar pula kebutuhan terhadap pengawasan, transparansi, dan mekanisme pertanggungjawaban.

Seruan Türk pada akhirnya menempatkan keselamatan AI sebagai persoalan global. Bukan hanya perusahaan teknologi yang dituntut memperkuat sistem pengaman, tetapi juga pemerintah dan negara-negara yang menjadi bagian dari ekosistem pengembangan teknologi tersebut.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.