CEO Google Ingatkan Bahaya Salah Info dari AI, Minta Publik Waspada

Harianjogja.com, JOGJA—CEO Alphabet Sundar Pichai menyoroti pentingnya verifikasi informasi karena AI masih dapat memberikan hasil yang keliru meski teknologinya semakin maju.

Peringatan ini disampaikan Pichai dalam sebuah wawancara eksklusif dengan BBC.

Pichai menekankan bahwa meskipun AI telah menjadi teknologi transformatif, model-model mutakhir saat ini masih "rentan terhadap kesalahan" dan harus digunakan dengan hati-hati.

Dalam wawancara tersebut, Pichai mendesak pengguna untuk selalu menggunakan perangkat AI bersamaan dengan sumber informasi lain yang kredibel. Ia menyoroti pentingnya menjaga ekosistem informasi yang kaya, alih-alih hanya mengandalkan satu teknologi.

“Inilah sebabnya orang-orang juga menggunakan Google Search, dan kami memiliki produk lain yang lebih fokus menyediakan informasi akurat,” ujar Pichai, sebagaimana dilansir BBC.

Meskipun teknologi AI sangat bermanfaat "jika Anda ingin menulis sesuatu secara kreatif," Pichai mengingatkan bahwa pengguna harus memahami batasan alat ini.

“Kami bangga dengan upaya yang kami lakukan untuk memberikan informasi seakurat mungkin, tetapi teknologi AI mutakhir saat ini rentan terhadap beberapa kesalahan,” tambahnya.

Ia menyimpulkan bahwa kunci penggunaan AI yang bertanggung jawab adalah sikap skeptis:

“harus belajar menggunakan perangkat ini sesuai keahlian mereka, dan tidak mempercayai semua yang mereka katakan begitu saja.”

Peringatan dari Pichai ini datang di tengah antisipasi besar terhadap peluncuran model AI konsumen terbaru Google, Gemini 3.0, yang diharapkan dapat merebut kembali pangsa pasar dari kompetitor utama, ChatGPT.

Google sendiri telah secara masif mengintegrasikan AI ke dalam produk intinya. Sejak Mei tahun ini, Google telah memperkenalkan “Mode AI” baru ke dalam layanan pencariannya, yang mengintegrasikan chatbot Gemini untuk memberikan pengalaman berinteraksi dengan seorang pakar.

Saat peluncuran fitur tersebut, Pichai sempat mengatakan bahwa integrasi Gemini dengan pencarian menandakan “fase baru pergeseran platform AI.”

Tantangan utama yang diakui Pichai dalam wawancara dengan BBC adalah adanya ketegangan antara kecepatan pengembangan teknologi dan upaya mitigasi untuk mencegah potensi efek berbahaya yang mungkin timbul.

Pichai menegaskan bahwa bagi Alphabet, mengelola ketegangan ini menuntut dua prinsip utama: bersikap "berani dan bertanggung jawab pada saat yang bersamaan."

“Jadi, kami bergerak cepat melewati momen ini. Saya pikir konsumen kami menuntutnya,” ujarnya.

Hal ini menunjukkan bahwa Google menyadari risiko halusinasi atau ketidakakuratan AI, bahkan pada saat mereka gencar mendorong adopsi teknologi tersebut. Pesan utamanya: AI adalah alat yang kuat, tetapi bukan pengganti verifikasi fakta dan pemikiran kritis manusia.

Cek Berita dan Artikel yang lain di Google News