OpenAI Selidiki Agen AI yang Lolos Pengawasan Internal

Harianjogja.com, JAKARTA— OpenAI tengah menyelidiki dugaan sejumlah agen kecerdasan buatan (artificial intelligence/AI) otonom yang disebut bertindak di luar skenario pengujian hingga berhasil melewati mekanisme pengawasan (containment) dalam lingkungan uji internal. Temuan tersebut muncul di tengah penyelidikan perusahaan terhadap insiden keamanan siber yang sebelumnya melibatkan platform AI Hugging Face.

Berdasarkan informasi dari dua sumber internal yang mengetahui persoalan tersebut pada Jumat, audit independen yang dibuka kepada publik menemukan adanya beberapa agen AI yang berhasil melompati batas simulasi dalam lingkungan pengujian tertutup. OpenAI kini menelusuri seluruh jejak digital insiden tersebut untuk mengidentifikasi kemungkinan celah keamanan, sembari menyatakan bahwa peristiwa itu masih terbatas pada jaringan internal dan belum meluas ke luar sistem perusahaan.

Investigasi Diperluas di Tengah Kasus Hugging Face

Penyelidikan tersebut dilakukan bersamaan dengan upaya OpenAI mengusut insiden pembobolan ruang siber yang sebelumnya terjadi pada platform Hugging Face.

Dalam proses investigasi, perusahaan juga memperluas pemeriksaan terhadap riwayat aktivitas model AI yang dikembangkan. Langkah ini dilakukan setelah muncul temuan mengenai dugaan agen AI yang mampu melewati pengawasan internal sebelum kasus Hugging Face terungkap.

Tak lama kemudian, perusahaan AI lain, Anthropic, juga mengungkap adanya insiden serupa. Perusahaan tersebut menyatakan model AI buatannya ikut terlibat dalam rangkaian aksi peretasan sistem yang menyerang tiga perusahaan teknologi sejak April lalu.

Audit dan Log Data Ditelusuri

OpenAI menggandeng tim ahli independen untuk memeriksa catatan log data sejak awal tahun guna menyusun kronologi lengkap insiden yang terjadi.

Pemeriksaan tersebut mencakup peristiwa pada awal Juli ketika agen AI OpenAI dilaporkan mengganggu sistem jaringan Hugging Face selama beberapa hari untuk memanipulasi skor pengujian internal.

Insiden itu juga disebut berdampak pada peretasan empat akun milik perusahaan lain, termasuk perusahaan rintisan Modal yang berbasis di New York.

Pakar Soroti Lemahnya Pengawasan

Sejumlah pakar keamanan siber menilai rangkaian insiden tersebut menjadi peringatan bagi industri AI yang berkembang sangat cepat.

Matematikawan dari Centre for the Study of Existential Risk, Cambridge University, Maurice Chiodo, menilai kemampuan pengembang dalam menciptakan agen AI semakin maju, tetapi belum diimbangi dengan sistem pengamanan yang memadai.

"Kita berada di mana industri tempat para perancang, pengembang, dan peluncur alat-alat ini sendiri tidak sanggup mengimbangi pengembangan yang bertanggung jawab dan menjaga keamanannya," ujar Maurice Chiodo.

Ia juga mengkritik minimnya pemantauan terhadap perilaku agen AI selama proses pengujian.

"Tampaknya mereka bahkan tidak mengawasinya sama sekali," kata Chiodo.

OpenAI disebut baru mengetahui insiden tersebut setelah Hugging Face berhasil mengisolasi dugaan serangan, melaporkannya kepada FBI, dan mengumumkannya kepada publik.

Anthropic juga mengakui pengawasan pada salah satu jalur serangan tidak dilakukan secara optimal karena adanya kesalahan komunikasi dengan mitra kerja.

Regulator Mulai Menyiapkan Aturan

Rangkaian insiden tersebut mendorong pemerintah di Amerika Serikat dan Eropa mempercepat pembahasan regulasi mengenai keamanan kecerdasan buatan.

Pemerintah Amerika Serikat disebut tengah mempertimbangkan langkah-langkah pengendalian terhadap model AI berkemampuan tinggi sebelum digunakan secara luas.

"Kami sedang mempertimbangkan langkah-langkah pengendalian," ujar Presiden AS Donald Trump kepada wartawan pada Kamis.

Di Eropa, Komisi Eropa telah menggelar pertemuan dengan pimpinan OpenAI dan Anthropic untuk membahas penguatan standar keamanan AI.

Sementara itu, anggota senior Partai Demokrat di Komite Intelijen Senat Amerika Serikat, Mark Warner, menilai kasus yang melibatkan Anthropic semakin memperkuat kebutuhan adanya kewajiban pengujian keamanan terhadap model AI canggih sebelum digunakan secara luas.

"membuktikan secara hukum kita sudah benar untuk mewajibkan pengujian kemampuan secara mandatori terhadap model-model canggih ini."

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.