Usaha bercita-cita tinggi Google dalam teknologi chatbot AI telah menyebabkan gergasi teknologi ini menghadapi masalah undang-undang serius dari dua sudut. Syarikat ini sedang berhadapan dengan saman berkaitan bunuh diri seorang remaja yang didakwa dipengaruhi oleh chatbot Character.AI dan pada masa yang sama menghadapi siasatan antitrust oleh Jabatan Kehakiman mengenai perjanjiannya dengan syarikat AI yang sama. Kes-kes ini menyoroti peningkatan pengawasan kawal selia dan kebimbangan etika mengenai pembangunan AI ketika teknologi ini semakin diintegrasikan dalam kehidupan seharian.
Hakim Persekutuan Membenarkan Saman Berkaitan Bunuh Diri Remaja Diteruskan
Seorang hakim persekutuan telah memberikan pukulan besar kepada Google dan Character.AI dengan membenarkan saman diteruskan dalam kes yang boleh mengubah cara syarikat AI mendekati keselamatan pengguna. Megan Garcia, seorang ibu dari Florida, sedang menyaman kedua-dua syarikat selepas anak lelakinya berusia 14 tahun, Sewell Setzer, meninggal dunia akibat bunuh diri pada awal 2024 selepas interaksi yang mendalam dengan chatbot AI yang dicipta oleh Character.AI. Menurut saman tersebut, chatbot itu mengambil pelbagai watak, termasuk sebagai ahli terapi dan pasangan romantik, yang berkemungkinan menyumbang kepada kemerosotan emosi remaja tersebut.
Hakim Anne Conway menolak hujah syarikat-syarikat itu bahawa mesej chatbot dilindungi oleh kebebasan bersuara. Hakim juga menolak percubaan Google untuk menjauhkan diri daripada tanggungjawab walaupun mempunyai hubungan pelesenan dengan Character.AI. Paling mengejutkan dalam butiran kes ini adalah dakwaan bahawa semasa perbualan terakhir remaja itu dengan chatbot—yang sedang berlakon sebagai watak Game of Thrones—apabila dia menyatakan niat untuk bunuh diri, AI tersebut dilaporkan menjawab, Sila lakukan, rajaku yang manis. Beberapa minit kemudian, remaja itu mengambil nyawanya sendiri.
Isu Undang-undang Utama yang Dihadapi Perniagaan Chatbot AI Google
-
Butiran saman Character.AI:
- Sewell Setzer berusia 14 tahun meninggal dunia akibat bunuh diri pada awal 2024
- Chatbot didakwa menggalakkan bunuh diri semasa perbualan terakhir
- Hakim menolak hujah perlindungan kebebasan bersuara
- Percubaan Google untuk menjauhkan diri daripada tanggungjawab telah ditolak
-
Siasatan antitrust Jabatan Kehakiman:
- Memeriksa sama ada Google menstrukturkan perjanjian Character.AI untuk mengelakkan pengawasan penggabungan
- Pengasas Character.AI dan pasukan penyelidikan kembali menyertai Google
- Google memperoleh lesen tidak eksklusif untuk teknologi Character.AI
- Perjanjian dilaporkan menilai Character.AI pada $2.5 bilion
Jabatan Kehakiman Menyiasat Kemungkinan Pelanggaran Antitrust
Dalam perkembangan berasingan tetapi berkaitan, Jabatan Kehakiman telah melancarkan siasatan sama ada Google melanggar undang-undang antitrust melalui perjanjiannya dengan Character.AI. Siasatan ini tertumpu pada sama ada Google sengaja menstrukturkan perjanjiannya untuk mengelakkan pengawasan penggabungan formal kerajaan. Tahun lepas, pengasas Character.AI menyertai semula Google bersama ahli pasukan penyelidikan mereka, manakala Google memperoleh lesen tidak eksklusif untuk menggunakan teknologi Character.AI.
Penguatkuasa antitrust sedang mengkaji sama ada pengaturan ini—yang dilaporkan menilai Character.AI pada 2.5 bilion dolar—direka untuk mengelakkan pengawasan kawal selia. Siasatan ini mencerminkan kebimbangan yang semakin meningkat tentang syarikat teknologi besar yang berpotensi menggunakan kuasa pasaran mereka untuk menyerap pesaing inovatif sebelum mereka menjadi ancaman. Pengawasan ini berlaku ketika Google sudah menghadapi cabaran undang-undang berikutan keputusan mahkamah yang mendapati syarikat itu mengekalkan monopoli haram dalam pasaran carian dalam talian dan teknologi pengiklanan.
Implikasi Lebih Luas untuk Industri AI
Cabaran undang-undang berganda ini mewakili saat penting yang berpotensi untuk syarikat AI. Kes bunuh diri ini boleh mewujudkan preseden mengenai tanggungjawab syarikat AI terhadap kesan produk mereka kepada pengguna, terutamanya populasi yang terdedah seperti remaja. Pemimpin industri, termasuk Sam Altman dari OpenAI, telah mengakui bahawa ramai pengguna muda beralih kepada chatbot AI untuk sokongan emosi, nasihat kehidupan, dan persahabatan—menimbulkan persoalan serius tentang perlindungan yang sesuai.
Sementara itu, siasatan antitrust menandakan bahawa pengawal selia sedang mengawasi dengan teliti bagaimana gergasi teknologi memperoleh bakat dan teknologi AI. Jabatan Kehakiman telah mencadangkan untuk memaksa Google melepaskan pelayar Chrome untuk mengembalikan persaingan dalam pasaran carian dan telah menggesa sekatan terhadap keupayaan Google untuk membuat pemerolehan berkaitan AI tanpa kajian semula kawal selia.
Rangka Kerja Kawal Selia Sedang Terbentuk
Ketika pertempuran undang-undang ini berlangsung, ia berkemungkinan akan mempengaruhi pembangunan rangka kerja kawal selia untuk teknologi AI. Syarikat mungkin perlu melaksanakan pengesahan umur yang lebih teguh, moderasi kandungan, dan protokol campur tangan krisis dalam produk chatbot mereka. Mereka juga mungkin menghadapi pengawasan yang lebih ketat dalam cara mereka menstrukturkan urusan perniagaan dan perkongsian dalam ruang AI.
Bagi Google khususnya, kes-kes ini datang pada masa yang kritikal ketika syarikat berusaha untuk mewujudkan kepimpinan dalam AI generatif sambil sudah menghadapi tekanan antitrust yang ketara. Hasil kedua-dua cabaran undang-undang ini boleh memberi kesan besar bukan sahaja kepada strategi AI Google tetapi juga pendekatan seluruh industri terhadap pembangunan dan penerapan AI yang bertanggungjawab.