OpenAI merupakan perusahaan yang dikenal dengan pengembangan teknologi kecerdasan buatan (AI), telah mengembangkan dan menguji alat untuk mendeteksi apakah suatu konten ditulis menggunakan ChatGPT. Namun, perusahaan ini memutuskan untuk menunda peluncuran alat tersebut ke publik karena beberapa kekhawatiran yang muncul.
Alat deteksi ini bekerja dengan menambahkan pola tertentu pada output model bahasa besar (LLM) seperti ChatGPT, yang memungkinkan OpenAI untuk mendeteksi apakah konten tersebut dihasilkan oleh AI. Pola ini tidak terlihat oleh manusia, sehingga tidak mempengaruhi kualitas output LLM. Menurut dokumentasi internal, alat ini diklaim 99,9% efektif dalam mendeteksi output ChatGPT.
Namun, teknik watermarking teks ini memiliki beberapa kelemahan. Misalnya, watermarking tidak dapat bekerja dengan output dari LLM lain seperti Gemini AI atau Llama 3. Selain itu, teknik ini dapat dengan mudah dihindari. Pengguna dapat memasukkan output ChatGPT ke Google Translate, mengubahnya ke bahasa lain, dan kemudian mengembalikannya ke bahasa asli, yang secara efektif menghapus watermarking.
Cara lain untuk menghindari deteksi adalah dengan meminta AI untuk menyisipkan karakter unik, emoji, atau frasa pendek di antara kata-kata, lalu menghapusnya menggunakan fungsi Find and Replace di Microsoft Word, atau meminta LLM lain untuk merumuskan ulang seluruh output.
Salah satu alasan utama OpenAI menunda peluncuran alat deteksi ChatGPT adalah kekhawatiran tentang bias terhadap penulis non-native English. Alat deteksi generatif AI yang dirilis OpenAI tahun lalu hanya bertahan tujuh bulan sebelum ditarik kembali karena tingkat deteksi yang rendah dan kecenderungan memberikan hasil positif palsu. Bahkan, ada kasus di mana seorang profesor gagal seluruh kelasnya karena semua makalah yang dikumpulkan secara keliru ditandai sebagai hasil AI.
Selain itu, survei pelanggan menunjukkan bahwa 69% pengguna ChatGPT percaya bahwa alat ini akan menghasilkan tuduhan palsu tentang kecurangan AI. Sebanyak 30% dari mereka bahkan mengatakan bahwa mereka kemungkinan akan beralih ke LLM pesaing jika OpenAI menerapkan alat ini.
OpenAI juga mempertimbangkan basis pelanggannya. Ada kekhawatiran bahwa pengguna lain dapat membalikkan teknik watermarking OpenAI dan merilis plug-in atau aplikasi untuk menetralkannya. Meskipun demikian, OpenAI memahami risiko yang ditimbulkan oleh konten yang dihasilkan AI terhadap masyarakat dan sedang mencari alternatif untuk teknik watermarking teks. Ada juga permintaan untuk detektor AI, dengan data internal menunjukkan bahwa 80% orang yang ditanya secara global mendukung keberadaannya.
Saat ini, masih menjadi pertanyaan apakah OpenAI akan merilis alat watermarking teks dan detektornya. Namun, perusahaan ini juga memahami bahwa sebagai salah satu organisasi terkemuka dalam pengembangan AI, mereka harus mengambil langkah-langkah untuk memastikan penggunaan alat mereka secara bertanggung jawab. Sumber mengatakan bahwa OpenAI memiliki waktu hingga musim gugur ini untuk mempengaruhi opini publik tentang transparansi AI.
sumber: Tomshardware
