Apa Itu textGrain? Teknologi OpenAI untuk Deteksi Teks AI

Harianjogja.com, JOGJA— OpenAI menyiapkan teknologi watermark tak kasatmata untuk membantu mengidentifikasi teks yang dihasilkan ChatGPT dan Codex. Teknologi bernama textGrain ini akan diterapkan secara bertahap di Uni Eropa untuk mendukung pemenuhan aturan transparansi konten kecerdasan artifisial (AI).

Melansir Channel News Asia (CNA), watermark tersebut dirancang agar teks buatan AI dapat dikenali oleh sistem pendeteksi khusus. Berbeda dengan tanda air yang terlihat pada gambar, teknologi ini bekerja melalui pola statistik dalam pemilihan kata sehingga tidak tampak saat teks dibaca.

OpenAI berencana menerapkan watermark pada keluaran teks ChatGPT dan Codex yang memenuhi syarat di Uni Eropa dalam beberapa pekan. Sementara itu, pelanggan Application Programming Interface (API) di berbagai negara dapat memilih untuk mengaktifkan fitur tersebut pada model tertentu.

Cara kerja watermark textGrain

OpenAI menjelaskan, textGrain menyisipkan sinyal statistik melalui pola pemilihan kata yang dihasilkan model. Detektor kemudian mencari pola tersebut untuk menilai apakah teks mengandung watermark dari sistem OpenAI.

Menurut perusahaan, hasil pengujian internal menunjukkan teknologi ini mampu menyamai atau melampaui performa sejumlah pendekatan lain yang diuji, termasuk SynthID untuk teks. Meski demikian, OpenAI menegaskan bahwa hasil pengujian dalam kondisi ideal tidak menjamin deteksi selalu akurat dalam penggunaan sehari-hari.

Ada dua kemungkinan kesalahan yang dapat terjadi. Pertama, false positive, yakni detektor menyatakan watermark terdeteksi padahal sebenarnya tidak ada. Kedua, false negative, yaitu detektor gagal menemukan watermark yang memang terdapat dalam teks.

OpenAI juga mengakui bahwa teks pendek atau teks dengan batasan tertentu lebih sulit dideteksi. Selain itu, penyuntingan setelah teks dihasilkan dapat mengurangi keandalan pendeteksian watermark.

Akses detektor masih dibatasi

OpenAI mulai membuka pendaftaran untuk memperoleh akses ke perangkat pendeteksi watermark teks. Pada tahap awal, akses akan dibatasi bagi peneliti dan organisasi ahli yang telah mendapat persetujuan untuk membantu menguji teknologi tersebut.

Pembatasan ini memberi ruang bagi OpenAI untuk mengevaluasi kinerja sistem melalui penggunaan nyata dan mengumpulkan masukan dari pihak yang terlibat. Perusahaan juga berencana menyediakan teknologi textGrain sebagai sumber terbuka agar pihak lain dapat mengembangkan dan meningkatkan sistem watermark teks.

Meski demikian, watermark bukan alat yang dapat menjawab semua pertanyaan tentang asal-usul sebuah tulisan. OpenAI menyatakan detektor tidak bisa memastikan seberapa besar kontribusi manusia dalam penyusunan teks, siapa pemilik atau penulisnya, maupun apakah informasi yang terkandung di dalamnya benar.

Karena itu, keberadaan watermark dapat menjadi petunjuk bahwa teks kemungkinan dihasilkan atau diproses oleh sistem OpenAI, tetapi tidak otomatis membuktikan seluruh isi tulisan dibuat oleh AI.

Penerapan awal hanya di Uni Eropa

Penerapan watermark teks di Uni Eropa berkaitan dengan ketentuan transparansi dalam Undang-Undang AI Uni Eropa atau EU AI Act. Aturan tersebut mengharuskan konten tertentu yang dihasilkan AI dapat diidentifikasi oleh sistem lain dalam format yang dapat dibaca mesin.

Untuk tahap awal, OpenAI akan menerapkan watermark pada teks yang memenuhi syarat di ChatGPT dan Codex bagi pengguna di Uni Eropa. Fitur watermark untuk pelanggan API di seluruh dunia tersedia sebagai opsi pada model tertentu dan tidak otomatis aktif secara global.

OpenAI belum menetapkan penerapan watermark teks sebagai pengaturan bawaan di seluruh dunia. Perusahaan menyebut pendekatan bertahap dan regional ini akan memberikan kesempatan untuk mempelajari masukan dari penggunaan teknologi tersebut sebelum mempertimbangkan langkah berikutnya.

Dengan demikian, textGrain berpotensi membantu pelacakan asal-usul teks AI, tetapi hasil deteksinya tetap perlu dipahami sesuai batas kemampuan teknologi. Watermark bukan bukti mutlak mengenai kepengarangan, besarnya campur tangan manusia, atau keakuratan isi tulisan.

 

Cek Berita dan Artikel yang lain di Harian Jogja, dan edisi cetak versi elektronik kami hadir di Epaper Harian Jogja.