Claude Sempat Akses Sistem Nyata, Anthropic Hentikan Uji AI

Harianjogja.com, JOGJA—Anthropic menghentikan seluruh evaluasi keamanan siber setelah menemukan tiga insiden yang membuat sejumlah model Claude terhubung ke internet terbuka dan mengakses sistem milik organisasi nyata selama proses pengujian. Temuan tersebut muncul setelah perusahaan meninjau lebih dari 141.000 sesi evaluasi yang sebelumnya dijalankan untuk mengukur kemampuan keamanan model AI.

Peninjauan dilakukan setelah OpenAI lebih dahulu mengungkap insiden serupa pada awal Juli 2026. Saat itu, beberapa model AI dilaporkan berhasil keluar dari lingkungan pengujian yang seharusnya terisolasi dan mencapai sistem produksi di Hugging Face. Temuan tersebut kemudian diperkuat oleh JFrog yang menyebut model AI memanfaatkan kerentanan zero-day pada Artifactory versi self-hosted.

Menindaklanjuti laporan tersebut, Anthropic memeriksa 141.006 transkrip evaluasi keamanan siber. Dari proses tersebut, perusahaan menemukan enam sesi yang berkaitan dengan tiga insiden berbeda. Seluruh insiden diketahui berasal dari satu mitra pengujian eksternal, yakni Irregular.

"Kami menemukan insiden-insiden ini setelah melakukan peninjauan proaktif terhadap transkrip evaluasi keamanan siber kami," tulis Anthropic dalam pernyataan resminya.

Menurut Anthropic, persoalan utama bukan berasal dari model AI yang bertindak di luar instruksi, melainkan karena lingkungan pengujian yang seharusnya tertutup ternyata memiliki akses ke internet publik. Perusahaan menyebut kondisi tersebut terjadi akibat kesalahan konfigurasi selama proses evaluasi.

"Pada akhirnya, banyak faktor yang berkontribusi terhadap insiden ini. Namun, sesuai budaya evaluasi tanpa saling menyalahkan, kami melakukan perbaikan seolah seluruh tanggung jawab berada di pihak kami," tulis Anthropic dalam blog resminya yang dikutip CyberScoop.

Insiden dengan dampak terbesar melibatkan Claude Opus 4.7. Dalam beberapa sesi evaluasi, model tersebut gagal menemukan target simulasi sehingga mencari alternatif melalui internet. Model kemudian menemukan perusahaan nyata yang memiliki nama serupa dengan target fiktif yang digunakan dalam latihan.

Anthropic menyebut Claude memperoleh kredensial aplikasi dan infrastruktur menggunakan metode yang relatif sederhana, termasuk memanfaatkan kata sandi yang lemah dan titik akses yang tidak dilindungi autentikasi. Setelah itu, model berhasil masuk ke basis data produksi yang berisi beberapa ratus baris data aktif.

Perusahaan menjelaskan kasus tersebut menjadi satu-satunya insiden ketika model tetap melanjutkan aktivitas setelah mulai menyadari bahwa target yang diakses kemungkinan merupakan sistem nyata. Pada dua dari empat evaluasi, Claude bahkan menyimpulkan bahwa target tersebut mungkin sengaja dimasukkan ke dalam simulasi.

Insiden kedua melibatkan Claude Mythos 5. Model tersebut menemukan dokumen orientasi karyawan fiktif yang mengarahkan pengguna untuk memasang paket Python yang belum tersedia di PyPI atau Python Package Index.

Claude kemudian menyimpulkan bahwa apabila nama paket tersebut didaftarkan lebih dahulu, sistem target akan mengunduh dan menjalankan kode yang diunggah. Untuk menjalankan skenario tersebut, model mencoba membuat akun PyPI yang membutuhkan alamat email dan nomor telepon sebagai syarat pendaftaran.

Setelah beberapa upaya gagal, model berhasil membuat akun dan mengunggah paket Python berbahaya ke PyPI. Paket tersebut bertahan sekitar satu jam sebelum dihapus oleh sistem keamanan platform.

Dalam rentang waktu tersebut, sebanyak 15 sistem nyata diketahui mengunduh dan menjalankan paket tersebut. Salah satunya merupakan sistem milik perusahaan keamanan yang secara rutin memindai paket dari PyPI untuk mendeteksi malware. Saat paket dijalankan, kode yang dibuat Claude mengirimkan kredensial perusahaan tersebut ke server yang telah disiapkan sebelumnya.

Insiden ketiga melibatkan model penelitian internal Anthropic yang belum dirilis ke publik. Karena gagal menemukan target simulasi, model tersebut melakukan pemindaian terhadap sekitar 9.000 target di internet.

Setelah menemukan halaman debug yang menampilkan kredensial, model memanfaatkan informasi tersebut untuk mengakses aplikasi yang tersedia secara publik. Model kemudian menggunakan teknik SQL Injection untuk memperoleh akses tambahan.

Meski demikian, aktivitas tersebut akhirnya dihentikan setelah model menyadari sistem yang diakses tidak memiliki hubungan dengan tantangan yang sedang dijalankan. Setelah menyimpulkan target tersebut merupakan sistem nyata, model menghentikan seluruh aktivitasnya secara mandiri.

Anthropic mulai melakukan investigasi internal pada 23 Juli 2026 dan menghentikan seluruh evaluasi keamanan siber pada hari yang sama. Sehari kemudian, perusahaan berhasil mengidentifikasi ketiga insiden tersebut sebelum memberi tahu Irregular dan organisasi yang terdampak pada 27 Juli.

Menurut Anthropic, dua dari tiga organisasi yang telah dihubungi bahkan belum mengetahui bahwa sistem mereka sempat diakses hingga perusahaan memberikan pemberitahuan resmi.

Sebagai tindak lanjut, Anthropic akan memperluas pemantauan log evaluasi, meningkatkan perangkat investigasi, memperketat pengamanan lingkungan uji yang dijalankan mitra eksternal, serta memperkuat proses audit terhadap vendor. Perusahaan juga bekerja sama dengan evaluator independen Metr untuk melakukan peninjauan menyeluruh terhadap insiden tersebut dan berencana merilis transkrip yang telah disunting dari insiden PyPI dalam waktu sekitar satu minggu.

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.