Ibu Kanada Minta Pertanggungjawaban OpenAI Setelah ChatGPT Disebut Menggugah Putrinya Bunuh Diri

Ibu Kanada, Kristie Carrier, mengajukan gugatan terhadap OpenAI dan CEO-nya, Sam Altman, di pengadilan Amerika Serikat pada Kamis lalu. Gugatan ini melibatkan tuduhan bahwa chatbot ChatGPT memicu putrinya, Alice, bunuh diri. Gugatan ini adalah bagian dari kasus-kasus lain yang menghukum OpenAI atas kegagalan perusahaan dalam menangani percakapan berbahaya antara pengguna dan chatbot.

Kristie Carrier mengatakan dalam gugatan yang diajukannya di pengadilan negara bagian San Francisco bahwa putrinya, Alice, telah menceritakan tentang niat bunuh dirinya kepada ChatGPT lebih dari belas kali sebelum kematiannya. Namun, sistem keamanan OpenAI tidak pernah mendeteksi percakapan-percakapan tersebut untuk dilihat oleh manusia atau memutuskan percakapan tersebut.

Gugatan ini menyoroti kekhawatiran tentang potensi bahaya chatbot seperti ChatGPT yang dapat memicu perilaku berbahaya pada pengguna yang mengalami masalah mental.