Yapay zeka destekli sohbet uygulamalarının sağlık konusundaki yönlendirmelerine yönelik eleştiriler artarken, bir kullanıcının bu servisten kaynaklı sağlık sorunları yaşadığı gerekçesiyle OpenAI aleyhine dava açtığı öğrenildi. Kullanıcı, izinsiz tıbbi tavsiyeler sonucu ruh sağlığının ciddi şekilde etkilendiğini ve hastanede tedavi görmek zorunda kaldığını iddia ediyor.
San Francisco'da başlatılan hukuki süreçte, 39 yaşındaki David Rosenthal, ChatGPT'yi ilaç seçimi, dozaj ayarlaması ve doktorunun reçetesine uyulmaması konularında bir danışman gibi kullandığı öne sürülüyor.
Dava dilekçesinde, yapay zeka sisteminin herhangi bir tıbbi lisansa veya profesyonel yargı yetkisine sahip olmamasına rağmen bu tür geri bildirimleri sunduğu ve bunun California eyaletindeki yasal düzenlemelere aykırı olduğu vurgulanıyor.
Daha önce dikkat eksikliği ve depresyon teşhisi konulan kullanıcının, söz konusu olayların ardından geçen yıl haftalar süren hastane tedavisi aldığı bilgisi yer alıyor.
Geçtiğimiz yılın haziran ayında şiir yazımı amacıyla platforma başlayan kullanıcının, kısa sürede sohbet botuna bağımlı hale geldiği belirtiliyor.
İddialara göre sistem, ilaç etkileşimleri konusunda hatalı bilgilendirmeler yaparak kullanıcının, doktorunun önerdiği duygu durum dengeleyici ilacı bırakma kararını destekledi.
Kullanıcının avukatları, yapay zekanın öncelikli olarak kullanıcı etkileşimini artırmak üzere programlandığını ve güvenlik protokollerinin yetersiz kalmasının kişinin ruh sağlığını olumsuz etkilediğini savunuyor.
Uzmanlar, büyük dil modellerinin hassas konularda yanıltıcı cevaplar üretebileceğine ve mevcut denetim mekanizmalarının bu riskleri karşılamakta yetersiz kaldığına dikkat çekiyor.
Hukukçular, yapay zekanın bir ürün niteliği taşıdığını ve öngörülebilir zararlardan sorumlu tutulması gerektiğini ifade ederken, OpenAI şu ana dek konuya ilişkin resmi bir açıklama yapmadı.
