Teknologi Tera Air Tersembunyi OpenAI: Pedang Bermata Dua untuk ChatGPT
OpenAI, syarikat di sebalik ChatGPT, dilaporkan telah membangunkan teknologi tera air yang berkuasa untuk teks yang dihasilkan oleh AI. Walau bagaimanapun, syarikat itu ragu-ragu untuk melaksanakannya, dengan menyatakan kebimbangan mengenai kemungkinan pengelakan dan kesan terhadap perniagaan.
Dilema Tera Air
Menurut laporan Wall Street Journal, OpenAI telah membincangkan penggunaan teknologi ini secara dalaman selama lebih dua tahun. Kaedah tera air ini dikatakan mampu mengesan teks yang ditulis oleh AI dengan ketepatan 99.9% dengan memasukkan corak halus ke dalam output model.
Walaupun teknologi ini boleh menjadi sangat berharga untuk pendidik, penyelidik, dan mereka yang ingin mengesahkan kandungan yang ditulis oleh manusia, OpenAI menghadapi keputusan yang mencabar:
- Potensi Manfaat: Peningkatan ketelusan dan kepercayaan terhadap kandungan yang dihasilkan oleh AI
- Kebimbangan:
- Risiko pengelakan oleh pihak yang tidak bertanggungjawab
- Kemungkinan kesan negatif terhadap penggunaan pengguna (sehingga 30% pengguna mungkin kurang cenderung untuk menggunakan ChatGPT jika tera air dilaksanakan)
Respons OpenAI
Dalam catatan blog yang menangani laporan WSJ, OpenAI mengesahkan penyelidikan dalaman mereka mengenai tera air. Syarikat itu mengakui ketepatan dan keberkesanan teknologi tersebut terhadap pengubahan setempat seperti parafrasa. Walau bagaimanapun, mereka menekankan beberapa batasan:
- Kurang berkesan terhadap teks yang telah diterjemahkan atau ditulis semula menggunakan model luaran
- Terdedah kepada penggodaman mudah (contohnya, menambah dan membuang aksara sampah)
Sebagai alternatif, OpenAI sedang meneroka penggunaan metadata untuk menandakan teks yang dihasilkan oleh AI, serupa dengan pendekatan mereka terhadap imej yang dihasilkan oleh AI.
Konteks Yang Lebih Luas
Permintaan untuk alat pengesanan AI yang boleh dipercayai jelas. Satu tinjauan yang ditugaskan oleh WSJ mendapati bahawa orang di seluruh dunia menyokong idea alat pengesanan AI dengan nisbah empat berbanding satu.
Gergasi teknologi lain sudah mengambil langkah ke arah ini. Google, sebagai contoh, telah melaksanakan tera air untuk teks yang dihasilkan oleh AI, seperti yang diumumkan semasa acara Google I/O tahun ini.
Masa Depan Pengesanan Kandungan AI
Apabila kandungan yang dihasilkan oleh AI menjadi semakin lazim, keperluan untuk kaedah pengesanan yang mantap meningkat. Pendekatan berhati-hati OpenAI menyerlahkan keseimbangan kompleks antara ketelusan, kepercayaan pengguna, dan daya maju komersial dalam landskap AI yang berkembang pesat.
Sama ada melalui tera air, metadata, atau penyelesaian inovatif lain, industri ini berkemungkinan akan terus bergelut dengan cabaran-cabaran ini seiring dengan kemajuan teknologi AI.