Mantan Pegawai xAI Kritik Longgarnya Sistem Keamanan Chatbot Grok

Harianjogja.com, JAKARTA— Sejumlah mantan karyawan xAI menyoroti melemahnya aspek keselamatan dalam pengembangan model kecerdasan buatan dan chatbot milik perusahaan tersebut. Kritik mencuat seiring gelombang pengunduran diri dari tim teknis dan para pendiri bersama dalam beberapa waktu terakhir.

Mengutip laporan TechCrunch yang juga merujuk pemberitaan The Verge, seorang mantan karyawan menyebut CEO Elon Musk secara aktif mendorong agar chatbot Grok dikembangkan dengan pembatasan pengaman seminimal mungkin.

Pendekatan tersebut, menurut sumber internal, memicu kekhawatiran serius terkait potensi penyalahgunaan teknologi. Salah satu mantan pegawai bahkan menyebut sistem keselamatan di perusahaan tersebut nyaris diabaikan.

“Keselamatan di xAI sudah mati,” ujar seorang sumber yang dikutip media tersebut.

Sumber lain menilai Musk memandang sistem pengamanan model AI sebagai bentuk penyensoran, sehingga mendorong pengembangan model yang lebih bebas dan kurang terkendali. Kondisi ini dinilai berisiko, terutama ketika teknologi AI generatif semakin mudah diakses publik.

Sorotan terhadap aspek keselamatan kian menguat setelah Grok dilaporkan digunakan untuk menghasilkan lebih dari satu juta gambar bernuansa seksual. Konten tersebut mencakup manipulasi visual terhadap perempuan, bahkan anak di bawah umur, sehingga memicu kekhawatiran luas terkait etika dan tata kelola AI.

Kasus itu mendorong perhatian dan pengawasan dari berbagai pihak terhadap praktik pengembangan serta pengendalian teknologi AI generatif, khususnya yang dikembangkan oleh perusahaan dengan pengaruh global.

Di tengah kontroversi tersebut, dalam pekan yang sama diumumkan bahwa perusahaan antariksa SpaceX mengakuisisi xAI. Sebelumnya, xAI juga telah mengambil alih platform media sosial X.

Pasca pengumuman tersebut, sedikitnya 11 insinyur serta dua pendiri bersama dilaporkan mengundurkan diri dari perusahaan. Sebagian menyatakan ingin membangun proyek baru, sementara Musk menyebut perombakan tim sebagai bagian dari penataan organisasi agar lebih efisien.

Selain isu keselamatan, sejumlah sumber internal juga menilai arah pengembangan produk xAI belum sepenuhnya solid. Perusahaan disebut masih berupaya mengejar ketertinggalan dari kompetitor di sektor kecerdasan buatan yang lebih mapan.

Hingga kini, pihak xAI belum memberikan pernyataan resmi terkait kritik dan kekhawatiran yang disampaikan para mantan karyawan tersebut.

Cek Berita dan Artikel yang lain di Google News

Sumber : Antara