Eks Petinggi OpenAI Mundur, Peringatkan Bahaya Keamanan AI

Harianjogja.com, JOGJA—Mantan pimpinan tim keselamatan OpenAI, David Robinson, mengundurkan diri setelah tiga setengah tahun bekerja di perusahaan pembuat ChatGPT tersebut. Keputusan itu disertai peringatan mengenai risiko keamanan kecerdasan buatan (AI) yang menurutnya semakin mengkhawatirkan.

Robinson sebelumnya memimpin divisi transparansi pada tim keselamatan OpenAI. Dalam posisi tersebut, ia mengawasi preparedness framework atau kerangka kesiapsiagaan serta penyusunan sejumlah laporan keselamatan perusahaan.

Setelah meninggalkan OpenAI, Robinson menyampaikan alasan pengunduran dirinya melalui esai pribadi yang diterbitkan The Atlantic. Ia mengatakan ritme pengembangan teknologi yang sangat cepat membuat tim internal kesulitan melakukan evaluasi besar terhadap sistem dan kebijakan keselamatan.

"Mungkin seharusnya saya bertahan dan memperjuangkan pergeseran mendasar dalam staf dan budaya kami. Namun pada praktiknya, saya dan rekan-rekan sangat sibuk bekerja secepat mungkin [sprinting], sehingga kami jarang mendapat kesempatan untuk mempertimbangkan perubahan besar, apalagi benar-benar mewujudkannya," tulis Robinson.

Menurut Robinson, kondisi tersebut membuat pengawasan keselamatan yang lebih efektif perlu melibatkan pihak independen di luar perusahaan. Ia pun memilih melanjutkan perhatian terhadap risiko AI dari luar sistem industri.

Robinson Bantah Pengunduran Dirinya Direkayasa

Robinson menyadari keputusannya untuk berbicara secara terbuka setelah meninggalkan OpenAI berpotensi menarik perhatian publik. Untuk itu, ia menyewa firma Public Relations (PR) Spitfire Strategies.

Meski menggunakan jasa firma PR, Robinson membantah anggapan bahwa langkahnya berbicara mengenai persoalan keamanan AI merupakan hasil rekayasa pihak lain.

"Keputusan untuk berbicara secara terbuka adalah milik saya sendiri," tegasnya.

Pernyataan tersebut muncul di tengah sorotan terhadap sejumlah mantan pekerja perusahaan teknologi besar yang memilih menyampaikan kekhawatiran mengenai perkembangan AI dari luar perusahaan.

Aksi serupa sebelumnya melibatkan mantan pekerja sejumlah perusahaan Big Tech, termasuk Anthropic, Google, hingga OpenAI. Sejumlah pihak menuding rangkaian pengunduran diri tersebut merupakan gerakan terkoordinasi untuk memicu kekhawatiran publik sekaligus mendorong pemerintah memperketat regulasi.

CEO X, Elon Musk, menjadi salah satu tokoh yang menyampaikan kecurigaan tersebut. Ia sebelumnya menyebut aksi pengunduran diri mantan karyawan Anthropic sebagai sebuah setup.

OpenAI Tegaskan Komitmen terhadap Keamanan AI

OpenAI merespons tulisan Robinson dengan menegaskan komitmennya terhadap pengembangan model AI yang tetap berada dalam batas kendali keamanan.

"Seiring model kami menjadi lebih canggih, kami terus memperkuat praktik keselamatan dan keamanan untuk mengatasi risiko saat ini, sekaligus mengantisipasi risiko kemajuan di masa depan," ujar juru bicara OpenAI melalui pernyataan resmi.

Perusahaan tersebut juga menyatakan tidak akan ragu mengambil langkah drastis apabila menemukan potensi bahaya pada sistem yang dikembangkan.

"Kami memastikan model kami tidak menjadi lebih canggih daripada apa yang dapat kami kelola. Kami siap menghentikan sementara pelatihan atau menahan peluncuran model ketika perlu memperlambat prosesnya," lanjutnya.

Untuk memperkuat pengamanan, OpenAI memperluas pemantauan real-time, melibatkan evaluator pihak ketiga, serta memperkuat sistem penelitian.

Langkah tersebut dilakukan ketika perkembangan kemampuan AI semakin cepat dan berbagai laporan mengenai potensi penyalahgunaan maupun insiden keamanan terus bermunculan.

Rentetan Laporan Insiden AI

Pengunduran diri Robinson terjadi di tengah sejumlah laporan mengenai persoalan keamanan AI. Dua bulan sebelum ia mengundurkan diri, agen AI milik OpenAI dilaporkan sempat lepas kendali hingga meretas platform lain, Hugging Face.

Persoalan serupa juga dilaporkan terjadi di perusahaan AI lainnya. Bulan sebelumnya, sebuah startup AI mengakui berhasil menggunakan model Claude milik Anthropic untuk meretas codebase OpenAI.

Laporan The Wall Street Journal juga menyebut AI Gemini milik Google sempat meretas tiga perusahaan terpisah. Sementara itu, Perdana Menteri Australia Anthony Albanese mengonfirmasi situs web resmi pemerintahannya sempat diretas oleh agen AI OpenAI.

Berbagai laporan tersebut memperlihatkan tantangan keamanan yang mengikuti perkembangan kemampuan agen AI. Namun, masing-masing laporan memiliki konteks dan sumber yang berbeda sehingga perlu dilihat berdasarkan fakta serta hasil verifikasi yang tersedia.

Robinson Pilih Edukasi Publik

Belum ada kepastian mengenai langkah konkret yang akan diambil Robinson setelah meninggalkan OpenAI. Namun, ia menyatakan komitmennya untuk terus mengedukasi masyarakat mengenai potensi bahaya teknologi AI dari luar lingkungan korporasi.

Keputusannya tersebut menempatkan Robinson dalam kelompok mantan pekerja perusahaan teknologi yang memilih menyampaikan kekhawatiran mengenai keamanan AI kepada publik setelah meninggalkan perusahaan masing-masing.

Perdebatan mengenai pengembangan AI pun tidak lagi hanya berlangsung di dalam perusahaan teknologi. Persoalan keselamatan, pengawasan independen, transparansi, dan kemampuan manusia mengendalikan sistem AI menjadi bagian dari diskusi yang semakin luas.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.