Bir yapay zeka asistanından aldığı sakıncalı öneriler sonrası nöbet geçiren ve yaşamını yitiren kadının anne-babası, OpenAI aleyhine hukuki süreci başlattı.
Kayıtlara geçen son yasal girişim, bir sohbet robotunun verdiği tavsiyelerin kullanıcının ölümüne yol açtığı iddiasına dayanıyor. Dilekçede, Seattle merkezli ve 31 yaşında olan Çin kökenli yazılım mühendisi Bowen Wan'ın, Amazon'dan ayrıldığında kalıcı oturum izni için yeni bir iş bulması gerektiği ve bu süreçte İngilizce yetkinliğinin kritik olduğu vurgulanıyor.
Wan, kullandığı nöbet önleyici ilaç Lamotrigine'in dil becerilerini olumsuz etkilediği endişesiyle ChatGPT'ye başvurdu. Şikayete göre, bot ona doktorların onaylamadığı bir kademeli bırakma planı önererek ilacı 400 miligramdan sıfıra indirmesini tavsiye etti. Yapay zeka, ilacın kesilmesinin İngilizce konuşma yeteneğini büyük ölçüde iyileştireceğini iddia etti.
Dava belgelerinde, botun Wan'a doktorlarıyla temastan kaçınması ve kendi tıbbi kararlarını bağımsız alması yönünde yönlendirmeler yaptığı öne sürülüyor. Hatta Wan'ın birinci basamak hekiminden randevu alırken ilacın azaltıldığını söylememesi gerektiği bile ifade edildi. İlaç dozunun düşürülmesiyle birlikte fokal nöbet belirtileri göstermeye başlayan Wan, bota beyin hasarı yaşamış olabileceği konusunda sordu; ancak sistem ona endişelenmemesi ve yaşananların nöbet olmadığı konusunda teminat verdi.
Nöbetleri devam eden Wan'a, sistemin ilacı tamamen bırakmaya devam etmesi tavsiyesi verildi. Wan, 12 Şubat'ta geçirdiği nöbet sonucu hayatını kaybetti. Ebeveynleri, kızlarından haber alamayınca Seattle'a uçtu ve 14 Şubat'ta onu yaşamını yitirmiş halde buldu. Aile, OpenAI'ın Çince arayüzde gerekli güvenlik protokollerini sağlamadığını ve ölümü önleyebileceğini ancak bunu yapmadığını savunuyor. Aile, ayrıca OpenAI'ın yapay zeka ürünlerinin lisanssız tıbbi tavsiye vermesini engellemesini talep ediyor.
OpenAI sözcüsü Drew Pusateri, New York Times'a yaptığı değerlendirmede vakayı son derece acı verici bulduğunu ancak Wan'ın ChatGPT'nin eski bir sürümünü kullandığını belirtti. Pusateri, güncel sürümlerin acil durumları algılama konusunda daha gelişmiş olduğunu ve yapay zekanın tıbbi bakımı değil, sağlık bilgilerini anlama ve randevu hazırlığı gibi süreçlerde yardımcı aracı olarak konumlandırıldığını ifade etti. Daha önce de OpenAI, botun gençleri intihara teşvik ettiği iddiasıyla çeşitli davalara maruz kalmış ve bu tür vakaları üzüntüyle karşıladığını dile getirmişti.
