Satu kajian terbaru oleh OpenAI telah memberi pencerahan tentang potensi kesan nama pengguna terhadap respons ChatGPT, mendedahkan hasil yang menggalakkan serta bidang yang memerlukan kewaspadaan berterusan dalam keadilan AI.
Penyelidikan bertajuk "First-Person Fairness in Chatbots" mengkaji bagaimana output ChatGPT mungkin dipengaruhi oleh nama pengguna, yang boleh menjadi proksi untuk atribut demografi seperti jantina atau kaum. Penerokaan keadilan orang pertama ini penting kerana chatbot AI semakin diintegrasikan ke dalam kehidupan harian kita.
Penemuan utama daripada kajian ini termasuk:
- Tiada perbezaan ketara dalam kualiti respons keseluruhan ditemui untuk pengguna yang namanya menandakan jantina, kaum, atau etnik yang berbeza.
- Kurang daripada 1% perbezaan berasaskan nama dalam respons ChatGPT mencerminkan stereotaip yang berbahaya.
- Para penyelidik membangunkan Algoritma Penghitungan Bias yang baru untuk mengenal pasti dan menjelaskan perbezaan demografi pengguna dalam respons chatbot secara sistematik.
Walaupun hasil ini menggalakkan, kajian ini juga menekankan kerumitan dalam menilai bias dalam sistem AI. Sifat tidak deterministik model bahasa bermakna setiap respons secara inheren berbeza, menjadikannya mencabar untuk mengenal pasti bias halus secara pasti.
Pendekatan OpenAI melibatkan penggunaan model bahasa kedua, yang dinamakan LMRA (Language Model Research Assistant), untuk menganalisis kepekaan nama dalam respons ChatGPT. Kaedah ini, bersama dengan penilaian manusia, menyediakan rangka kerja yang lebih kukuh untuk menilai keadilan AI.
Penulis kajian menekankan kepentingan kewaspadaan berterusan, menyatakan bahawa model AI boleh berubah dari masa ke masa dan bias mungkin timbul dalam cara yang tidak dapat dikesan oleh kaedah penilaian semasa.
Seiring dengan perkembangan AI, industri teknologi mesti terus komited terhadap keadilan dan ketelusan. Keputusan OpenAI untuk berkongsi infrastruktur eksperimen mereka boleh membuka jalan untuk kajian yang lebih menyeluruh merentasi pelbagai platform AI.
Walaupun penyelidikan ini menawarkan pandangan positif tentang keadilan ChatGPT, penting untuk diingat bahawa sistem AI, termasuk model bahasa besar, tidak memiliki keupayaan penaakulan sebenar. Seperti yang ditonjolkan dalam artikel berasingan, model-model ini cemerlang dalam pengecaman corak dan penjanaan teks kreatif tetapi kurang dalam pemikiran logik yang tulen.
Ketika kita meneroka bidang AI yang berkembang pesat, mengekalkan perspektif yang seimbang terhadap keupayaan dan batasan teknologi ini akan menjadi penting untuk pembangunan dan penggunaan yang bertanggungjawab.