China Perketat Regulasi AI, Fokus Lindungi Anak dan Cegah Bahaya

Harianjogja.com, JOGJA—Pemerintah China mengajukan regulasi baru kecerdasan buatan (AI) yang lebih ketat dengan fokus pada perlindungan anak dan pencegahan konten berbahaya seperti kekerasan, bunuh diri, dan perjudian.

Draf peraturan ini muncul di tengah ledakan produk AI domestik dan global. Jika disahkan, aturan ini akan menjadi standar wajib bagi seluruh penyedia layanan AI di China guna memastikan keamanan teknologi tetap sejalan dengan nilai sosial dan keamanan nasional.

Mengutip BBC, Administrasi Ruang Siber China (CAC) menetapkan beberapa poin krusial yang harus dipatuhi oleh operator AI:

- Proteksi Anak: Perusahaan wajib menyediakan pengaturan khusus anak, membatasi durasi penggunaan, dan mendapatkan izin wali untuk layanan pendampingan emosional.

- Intervensi Manusia: Untuk topik sensitif seperti bunuh diri atau melukai diri sendiri, operator chatbot wajib mengalihkan kendali percakapan kepada manusia dan segera menghubungi kontak darurat.

- Keamanan Konten: Larangan keras terhadap konten yang "membahayakan keamanan nasional, merusak kehormatan dan kepentingan nasional, atau merusak persatuan nasional."

- Aspek Positif: Pemerintah tetap mendukung pemanfaatan AI untuk promosi budaya lokal serta pengembangan alat bantu bagi lansia, asalkan teknologi terbukti aman dan andal.

Langkah tegas China ini menyusul popularitas aplikasi AI asal Negeri Tirai Bambu seperti DeepSeek yang sempat memuncaki tangga unduhan dunia. Selain itu, dua startup besar China, Z.ai dan Minimax, juga dilaporkan tengah mempersiapkan penawaran saham perdana (IPO) seiring dengan basis pengguna yang mencapai puluhan juta orang.

Isu keamanan AI kini menjadi perhatian global. CEO OpenAI, Sam Altman, mengakui bahwa menangani percakapan terkait perilaku melukai diri sendiri adalah salah satu tantangan tersulit bagi pengembang. Di Amerika Serikat, kasus hukum perdana telah muncul setelah sebuah keluarga menggugat OpenAI atas tuduhan bahwa ChatGPT berkontribusi pada kematian putra mereka yang berusia 16 tahun.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.