CEO Microsoft Minta AI Bisa Dimatikan Saat Bertugas

Harianjogja.com, JAKARTA— CEO Microsoft Satya Nadella mengusulkan agar setiap model kecerdasan buatan (AI) dilengkapi mekanisme darurat yang memungkinkan pihak berwenang menghentikan sistem kapan saja, termasuk ketika sedang menjalankan tugas. Usulan tersebut muncul di tengah perhatian terhadap risiko model AI yang semakin canggih dan kebutuhan memperkuat pengawasan terhadap teknologi tersebut.

Nadella menyampaikan pandangannya melalui unggahan panjang di media sosial X pada Senin (12/10/2026). Ia menekankan pentingnya mengantisipasi kemungkinan model AI mengalami kompromi keamanan serta memastikan manusia tetap memiliki kendali untuk menghentikan operasinya.

"Kita harus berasumsi bahwa sebuah model sudah compromised dan melakukan containment sejak awal. Anggap saja seperti emergency brake. Orang yang berwenang harus selalu bisa menjeda atau mematikan model di tengah tugas (mid-task),” demikian pernyataan Nadella dalam unggahan akun @satyanadella.

Nadella Usulkan Mekanisme Darurat untuk AI

Nadella menilai model AI yang semakin canggih membutuhkan teknologi pengendalian atau containment yang juga lebih maju. Menurut dia, teknologi tersebut perlu distandarkan agar kemampuan membatasi atau menghentikan operasional AI dapat diterapkan secara konsisten.

Gagasan emergency brake menjadi salah satu bagian penting dari usulan tersebut. Mekanisme ini memungkinkan orang yang memiliki kewenangan untuk menjeda atau mematikan model ketika diperlukan, termasuk saat model sedang mengerjakan suatu tugas.

Selain kemampuan menghentikan sistem, Nadella menyoroti pentingnya transparansi dalam pengembangan dan penggunaan AI. Ia menilai masyarakat tidak bisa terus menerima situasi ketika AI diperlakukan sebagai serangkaian sistem tertutup yang rekomendasi dan tindakannya hanya dapat diterima atau ditolak tanpa pengawasan memadai.

Karena itu, ia mendorong pembangunan sistem yang dapat dikendalikan, diamati, dan ditelusuri perilakunya. Sistem tersebut juga perlu menghasilkan bukti yang tidak dapat dimanipulasi dan bisa dibaca manusia, atau tamper-proof human readable evidence.

Dengan mekanisme itu, perilaku model AI diharapkan dapat diamati secara berkelanjutan dan ditelusuri kembali ketika muncul persoalan. Bukti yang dihasilkan juga dapat membantu proses pemeriksaan terhadap tindakan sistem.

Audit Independen dan Pelaporan Insiden AI

Selain mekanisme pengendalian, Nadella menyampaikan sejumlah rekomendasi lain untuk memperkuat tata kelola AI. Rekomendasi tersebut mencakup pelaporan insiden secara tepat waktu, audit independen, dan penggunaan data yang dapat diverifikasi.

Pelaporan insiden diperlukan agar kejadian yang berkaitan dengan penggunaan AI dapat diketahui dan ditangani secara tepat waktu. Sementara itu, audit independen dapat menjadi bagian dari upaya memeriksa sistem di luar pengawasan internal pengembangnya.

Adapun data yang dapat diverifikasi dibutuhkan untuk mendukung pemeriksaan dan penelusuran perilaku model. Menurut pemberitaan Bisnis.com yang mengutip The Verge, sebagian besar rekomendasi Nadella tersebut sejalan dengan pandangan yang telah disampaikan sejumlah pihak di industri AI.

Namun, aspek containment menjadi pembeda utama dalam seruannya. Nadella secara khusus menekankan perlunya kemampuan untuk membatasi, menjeda, atau mematikan model ketika muncul risiko.

Istilah Super Intelligence Jadi Sorotan

Dalam unggahannya, Nadella juga menggunakan istilah Super Intelligence untuk merujuk pada AI. Istilah ini umumnya digunakan untuk menggambarkan sistem kecerdasan buatan yang kemampuannya melampaui kecerdasan manusia.

Bisnis.com, dengan merujuk laporan The Verge pada Senin (12/10/2026), menyebut penggunaan istilah tersebut dalam pembahasan risiko AI turut menjadi perhatian.

Pembahasan mengenai pengendalian AI juga menarik perhatian karena Microsoft merupakan investor di OpenAI dan Anthropic, dua pengembang model AI terkemuka.

Nadella sebelumnya telah menyampaikan pandangan mengenai risiko penggunaan AI oleh perusahaan. Pada Juli lalu, ia mengingatkan perusahaan agar tidak mengandalkan satu model AI untuk seluruh kebutuhan.

Peringatan tersebut dilaporkan TechCrunch pada Senin (12/10/2026). Nadella juga pernah menyoroti penggunaan model AI proprietari atau model tertutup yang dikembangkan perusahaan tertentu.

Dalam pernyataan lain pada bulan yang sama, ia menggambarkan pengguna model AI proprietari seolah membayar dua kali: melalui uang dan melalui pengetahuan bisnis yang diserahkan lewat prompt yang ikut melatih model.

Serangkaian pernyataan itu menunjukkan perhatian Nadella terhadap risiko penggunaan AI, mulai dari ketergantungan pada satu model hingga keamanan, transparansi, dan pengawasan operasionalnya.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.

Sumber : Bisnis