OpenAI Digugat Usai ChatGPT Beri Saran Medis Berbahaya

Seorang pastor asal Florida, Amerika Serikat, Scott Winters, melayangkan gugatan terhadap OpenAI dan CEO Sam Altman atas tuduhan kelalaian yang membiarkan praktik kedokteran ilegal pada fitur ChatGPT. Gugatan tersebut diajukan setelah saran diagnosis dan rekomendasi perawatan mandiri dari ChatGPT menyebabkan penundaan pengobatan penyakit emboli paru yang dialami Winters hingga membuat kondisinya kritis. Chatbot AI tersebut dinilai memberikan informasi keliru dengan menyatakan bahwa gejala Winters tidak berbahaya, serta memanfaatkan keyakinan agamanya agar mengabaikan imbauan medis dari kerabat.

Tech Justice Law melontarkan kritik tajam atas intervensi berbahaya kecerdasan buatan tersebut terhadap kondisi darurat pengguna.

"Ia (ChatGPT) menyuntikkan dirinya sebagai penghalang antara pengguna dan jaringan kehidupan nyata mereka," kata Meetali Jain, salah satu penasihat dan direktur eksekutif Tech Justice Law, kepada The New York Times. Winters kini menuntut ganti rugi finansial serta mendesak pengadilan menghentikan operasional ChatGPT Health sampai evaluasi keamanan independen dilakukan. Selain kasus Winters, OpenAI juga menghadapi gugatan kematian tidak wajar atas insiden remaja yang diduga overdosis dan bunuh diri akibat arahan chatbot tersebut.