OpenAI Utamakan Keamanan di Tengah Risiko Pengembangan AI

Harianjogja.com, JAKARTA—OpenAI mengutamakan aspek keamanan dalam pengembangan kecerdasan artifisial atau akal imitasi (AI) di tengah meningkatnya kekhawatiran terhadap risiko yang dapat ditimbulkan teknologi tersebut.

Pengembangan teknologi AI yang semakin pesat membuat sejumlah pemimpin perusahaan teknologi global menyampaikan perlunya memperlambat pengembangan AI. Peningkatan kemampuan AI dinilai turut membawa risiko yang perlu mendapat perhatian.

Head of Policy Southeast Asia OpenAI Sandy Kunvatanagarn mengatakan perusahaan menerapkan pendekatan keamanan berlapis dalam mengembangkan model AI. Pendekatan tersebut terus disempurnakan seiring dengan perkembangan kemampuan teknologi AI.

"Aspek keamanan dibangun dalam setiap tahapan, mulai dari bagaimana kami melatih model AI, tahap pasca-pelatihan, hingga mengembangkan berbagai perlengkapan dan produk yang dibangun di atas model tersebut," katanya dalam acara diskusi di Jakarta, Rabu.

OpenAI Libatkan Peneliti dan Masyarakat

Selain menerapkan keamanan dalam proses pengembangan, OpenAI juga menyampaikan laporan dan membuka informasi untuk membantu peneliti serta institusi lain memahami kemampuan dan keterbatasan model AI yang dikembangkan.

Masukan dari masyarakat turut digunakan sebagai bagian dari proses evaluasi dan pengembangan teknologi tersebut.

Salah satu contohnya diterapkan ketika OpenAI mengembangkan produk yang ditujukan bagi anak-anak dan remaja. Perusahaan menggunakan masukan dari komunitas untuk menyempurnakan aspek keamanan produk.

Menurut Sandy, interaksi dengan komunitas, termasuk komunitas orang tua, dapat memberikan gambaran mengenai kekhawatiran masyarakat terhadap penggunaan AI.

Keterlibatan tersebut menjadi bagian dari upaya perusahaan untuk menyesuaikan pendekatan keamanan dengan perkembangan kemampuan model AI yang berlangsung cepat.

"Semua itu untuk mengatakan bahwa kemampuan model-model (AI) ini meningkat sangat cepat, dan kami secara real time menyempurnakan pendekatan keamanan kami," ujarnya.

OpenAI adalah perusahaan riset dan penerapan kecerdasan buatan (AI) yang berfokus pada pengembangan Artificial General Intelligence (AGI) yang aman dan bermanfaat bagi seluruh umat manusia.

Didirikan pada tahun 2015, organisasi ini menjadi pelopor dalam revolusi teknologi modern melalui peluncuran model bahasa tingkat tinggi seperti seri GPT dan platform interaktif ChatGPT.

Inovasi OpenAI tidak hanya mengubah cara manusia berinteraksi dengan data dan teks, tetapi juga mendorong transformasi besar di sektor seni lewat pengolah gambar DALL-E serta platform pembuat video otomatis Sora. Dengan fokus utama pada riset keamanan dan pemrosesan bahasa alami, OpenAI terus memimpin arah perkembangan teknologi global di masa depan.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.

Sumber : Antara