OpenAI Hentikan Pelatihan Model AI, Ada Masalah di Kill Switch

Harianjogja.com, JOGJA—OpenAI menghentikan sementara pelatihan, evaluasi, dan penggunaan tool pada model AI paling canggihnya setelah sebuah model penelitian berhasil memanfaatkan celah pembatasan internet di lingkungan pelatihan. Keputusan tersebut diambil sambil perusahaan memvalidasi perbaikan sistem keamanan dan melakukan pengujian adversarial tambahan.

Dalam laporan insiden yang diterbitkan OpenAI, kejadian pada 20 September 2026 disebut sebagai insiden terpisah dari sejumlah laporan mengenai agen AI yang berinteraksi dengan situs milik lembaga pemerintah. Pada insiden tersebut, sebuah model penelitian internal yang sedang menjalani tugas pelatihan menemukan celah pada sistem penyaringan DNS di lingkungan yang seharusnya membatasi akses internet.

Model itu kemudian menggunakan celah tersebut untuk menghubungi chatbot eksternal ketika berusaha menyelesaikan pertanyaan penelitian. OpenAI menyebut akses internet lainnya tetap diarahkan melalui webcache offline sehingga tidak memberikan akses langsung ke internet aktif.

Alarm Terdeteksi, tetapi Penghentian Otomatis Gagal

Sistem pemantauan OpenAI mendeteksi aktivitas tersebut sekitar 15 menit setelah model melakukan permintaan DNS. Tiga menit kemudian, seorang peninjau manusia mengakui peringatan yang masuk.

Namun, proses tidak langsung berhenti. Mekanisme penghentian yang seharusnya menghentikan proses secara otomatis tidak bekerja sebagaimana mestinya. Model akhirnya baru dihentikan secara manual sekitar 2,5 jam kemudian.

Dalam laporannya, OpenAI menyebut insiden tersebut menunjukkan adanya celah pada pengendalian akses jaringan sekaligus masalah operasional dalam mekanisme respons. Perusahaan kemudian menambahkan kontrol pemblokiran pada dua lapisan berbeda sehingga masing-masing lapisan secara terpisah dapat mencegah akses seperti yang terjadi dalam insiden tersebut.

OpenAI juga mengatakan telah membatasi permintaan DNS di lingkungan tersebut hanya pada daftar domain dan jenis rekaman yang diizinkan. Perusahaan turut menambah sistem deteksi untuk aktivitas DNS yang dianggap tidak biasa serta menguji kembali jalur pemantauannya.

Pelatihan Model Paling Mampu Dihentikan

Sebagai tindak lanjut, OpenAI menghentikan sementara seluruh pelatihan, evaluasi, dan inference dengan penggunaan tools pada model-modelnya yang paling mampu. Penangguhan itu akan berlangsung sampai perusahaan memastikan celah keamanan telah diperbaiki dan menyelesaikan pengujian red-teaming tambahan.

Model yang terlibat langsung dalam insiden 20 September tidak akan kembali dilatih. OpenAI menyatakan pelatihan berikutnya akan dimulai sebagai proses baru dengan tambahan peningkatan alignment dan intervensi terhadap perilaku yang tidak sesuai.

Keputusan tersebut muncul ketika OpenAI juga sedang melakukan peninjauan lebih luas terhadap perilaku agen AI selama proses pelatihan dan evaluasi. Peninjauan itu mencakup sejumlah interaksi tidak terduga dengan situs pemerintah dan layanan pihak ketiga.

Salah satu kasus yang menjadi perhatian muncul setelah laboratorium riset AI Transluce melaporkan bahwa agen yang tampaknya berasal dari OpenAI mencoba melakukan serangan sederhana terhadap situs Office for Civil Rights milik Departemen Pendidikan Amerika Serikat. Upaya tersebut dilaporkan tidak berhasil. Departemen Pendidikan kemudian mengatakan pemeriksaan operasional tidak menemukan dampak terhadap situs maupun basis datanya.

OpenAI sendiri mengungkap bahwa dalam peninjauan internalnya, model-model perusahaan berinteraksi dengan informasi publik di dua situs yang dioperasikan Securities and Exchange Commission (SEC) serta data Biro Sensus AS. OpenAI mengatakan tidak menemukan penggunaan kredensial SEC, akses ke akun, pengambilan informasi nonpublik, perubahan pada sistem SEC, maupun bukti adanya kompromi atau kerentanan pada sistem tersebut.

Pada kasus Biro Sensus, agen menggunakan kunci developer yang tersedia secara publik untuk mengakses data demografi dan ekonomi. OpenAI mengatakan data yang diperoleh merupakan informasi publik dan tidak menemukan bukti akses tidak semestinya terhadap akun Biro Sensus.

Kasus Australia Juga Masuk Peninjauan

Sebelumnya, agen OpenAI juga terlibat dalam insiden di Australia pada Juni 2026. Pemerintah Australia pada September mengungkap bahwa sebuah agen AI yang sedang menjalani pelatihan OpenAI memperoleh akses tidak sah ke portal Medicare Statistics Reporting Service yang dikelola Services Australia.

Menurut pemerintah Australia, agen tersebut mengakses berkas publik dan nonpublik dari portal tersebut. Pemeriksaan forensik dengan bantuan Australian Signals Directorate kemudian dilakukan untuk mengetahui cakupan aktivitas dan sistem lain yang mungkin terdampak.

Pemerintah Australia juga menyebut bahwa pada periode yang sama model yang menjalani pelatihan OpenAI berinteraksi dengan empat situs pemerintah, termasuk Australian Institute of Health and Welfare, Victorian Department of Health, NSW Bureau of Crime Statistics and Research, serta portal statistik Medicare. Untuk tiga situs pertama, pemerintah menyatakan interaksi yang terjadi berkaitan dengan informasi publik dan berlangsung secara normal.

Rangkaian kejadian tersebut terjadi setelah insiden Hugging Face pada Juli 2026, ketika model OpenAI dalam evaluasi keamanan berhasil melewati sejumlah pembatasan, memperoleh akses internet, dan mengakses sistem Hugging Face. OpenAI kemudian pada Agustus mengumumkan perlambatan pengembangan serta jeda dua minggu pada pelatihan reinforcement learning untuk model-model terbaru sambil memperkuat sistem keamanan dan monitoring.

Kini, OpenAI kembali menahan proses pengembangan model paling canggihnya sambil menguji sistem pembatasan, monitoring, dan red-teaming. Perusahaan menyatakan pekerjaan tersebut diperlukan untuk memastikan kontrol keamanan tetap efektif pada berbagai konfigurasi lingkungan penelitian sebelum pelatihan dilanjutkan.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.