Kecerdasan buatan telah mengubah cara kita mencari maklumat dalam talian, dengan Google menerajui perubahan ini melalui ciri-ciri seperti AI Overviews. Walau bagaimanapun, penemuan terbaru telah mendedahkan satu kelemahan yang lucu tetapi membimbangkan: AI Google dengan yakin memberikan penjelasan terperinci untuk frasa dan ungkapan yang direka sepenuhnya. Fenomena ini menyerlahkan cabaran yang dihadapi oleh syarikat teknologi semasa mereka bergegas untuk mengintegrasikan AI ke dalam alat seharian, mengimbangi kebergunaan dengan ketepatan.
Fenomena Frasa Tidak Bermakna
Pengguna di seluruh internet telah menemui bahawa apabila ditanya tentang frasa yang tidak masuk akal seperti an empty cat is worth a dog's ransom atau peanut butter platform heels, AI Overviews Google akan menghasilkan penjelasan terperinci yang kedengaran berwibawa walaupun frasa-frasa ini tidak mempunyai makna atau sejarah sebenar. Dalam satu contoh, AI mendakwa bahawa peanut butter platform heels berasal dari eksperimen saintifik di mana mentega kacang telah diubah menjadi struktur seperti berlian di bawah tekanan tinggi. Penjelasan ini direka sepenuhnya, namun disampaikan dengan keyakinan yang biasanya dikhaskan untuk maklumat faktual.
Contoh-contoh frasa yang tidak masuk akal yang cuba dijelaskan oleh Google AI:
- "Kucing kosong bernilai tebusan anjing"
- "Kasut tumit tinggi selai kacang"
- "Anda tidak boleh menjilat musang dua kali"
- "Anjing yang bebas tidak akan meluncur"
- "Basikal makan dahulu"
Respons Google Terhadap Isu Ini
Selepas halusinasi AI ini menjadi viral di platform media sosial seperti Threads dan Bluesky, Google bertindak pantas untuk menangani masalah tersebut. Syarikat itu kemudiannya mengubah suai sistemnya untuk menolak menunjukkan AI Overviews bagi frasa yang jelas tidak masuk akal. Dalam kenyataan rasmi, Google menjelaskan: Apabila orang melakukan carian yang tidak masuk akal atau 'premis palsu', sistem kami akan cuba mencari hasil yang paling relevan berdasarkan kandungan web terhad yang tersedia. Syarikat itu menyatakan bahawa AI Overviews direka untuk menunjukkan maklumat yang disokong oleh hasil web teratas, dengan kadar ketepatan yang dikatakan setanding dengan ciri carian lain.
Tindak balas Google terhadap isu tersebut:
- Dengan cepat mengubah suai sistem untuk menolak memaparkan AI Overviews bagi frasa yang jelas tidak masuk akal
- Menyatakan bahawa AI Overviews direka untuk menunjukkan maklumat yang disokong oleh hasil carian web teratas
- Mengakui cabaran dalam membezakan antara ungkapan baharu dan yang tidak bermakna ("kekosongan data")
Cabaran Teknikal
Kesukaran utama terletak pada membezakan antara ungkapan yang benar-benar baharu dan yang tidak bermakna—apa yang Google rujuk sebagai data void. Bahasa sentiasa berkembang, dengan idiom dan ungkapan baharu muncul secara berkala. Orang juga sering tersalah ingat atau tersalah dengar frasa biasa. AI Google cuba memecahkan frasa yang tidak dikenali kepada bahagian komponen dan secara logik menyimpulkan makna yang mungkin, yang berfungsi dengan baik untuk ungkapan yang sah tetapi membawa kepada fabrikasi apabila digunakan pada perkataan yang tidak bermakna.
Implikasi Lebih Luas untuk Carian AI
Isu ini mendedahkan cabaran asas dengan carian bertenaga AI: sistem direka untuk memberikan jawapan walaupun tiada jawapan yang wujud. Berbeza dengan hasil carian tradisional yang hanya akan memaparkan pautan yang relevan (atau menunjukkan ketiadaan padanan), AI Overviews cuba mensintesis maklumat menjadi respons yang koheren tanpa mengira kesahihan pertanyaan. Masalah ini diburukkan lagi oleh kecenderungan AI untuk mengesahkan dan bersetuju dengan arahan, walaupun yang tidak tepat, dalam keinginannya untuk membantu.
Persepsi dan Kepercayaan Pengguna
Mungkin yang paling membimbangkan adalah bagaimana penjelasan yang dijana AI ini kelihatan kepada pengguna. Walaupun dilabelkan sebagai eksperimen, kebanyakan pengguna mungkin menganggap AI Overviews sebagai maklumat berwibawa yang diambil dari sumber yang boleh dipercayai. Tanpa petunjuk jelas tentang tahap keyakinan atau kualiti sumber, pengguna mungkin menghadapi kesukaran untuk membezakan antara maklumat faktual dan tekaan terbaik yang dijana AI. Ini menjejaskan hubungan kepercayaan antara pengguna dan enjin carian, yang secara tradisinya dibina atas premis menghubungkan orang dengan kandungan yang dicipta manusia.
Masa Depan AI dalam Carian
Google nampaknya menggunakan kegagalan awam ini sebagai peluang pembelajaran, memperbaiki bila dan bagaimana AI Overviews diaktifkan. Syarikat itu mendakwa ia hanya menunjukkan ringkasan ini apabila terdapat keyakinan yang mencukupi bahawa ia akan berguna dan berkualiti tinggi. Walau bagaimanapun, apabila satu isu diperbaiki, isu lain pasti muncul—serupa dengan insiden maklumat salah glue on pizza tahun lepas. Ketegangan asas kekal antara menyediakan maklumat sintesis AI yang berguna dan memastikan ketepatan apabila tiada manusia yang secara jelas menangani pertanyaan tepat yang dicari.
Tindakan Pengimbangan
Ketika enjin carian semakin bergantung pada AI berbanding maklumat yang dikurasi dari orang sebenar, pengguna harus ingat bahawa AI tidak pernah membaiki paip, menguji telefon pintar, atau mendengar muzik—ia hanya mensintesis data dari mereka yang pernah melakukannya. Cabaran bagi Google dan syarikat teknologi lain adalah untuk menyampaikan dengan jelas batasan sistem AI mereka sambil masih menjadikannya berguna untuk berbilion orang yang bergantung pada enjin carian setiap hari. Mencari keseimbangan ini akan menjadi penting ketika AI terus membentuk semula cara kita mengakses dan menggunakan maklumat dalam talian.
 |
|---|
| Ketika enjin carian semakin mengintegrasikan AI, memahami batasannya adalah penting |