Sekiz eyalet, ebeveynleri yanılttığı gerekçesiyle çarşamba günü OpenAI'a dava açtı. Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana'da açılan davalarda şirket, çocuklara zarar vermekle suçlanıyor. Eyalet yönetimleri, yapay zeka botu ChatGPT'nin çocuklar üzerinde olumsuz etkileri olduğunu iddia ediyor.
Hukuki süreci duyurmak üzere düzenlenen basın toplantısında konuşan Iowa Başsavcısı Brenna Bird, "OpenAI piyasaya ilk giren şirket olmak istedi. Çocuklara zarar verdiklerini, ebeveynlere yalan söylediklerini ve yasalarımızı çiğnediklerini bilmelerine rağmen ChatGPT'yi yüksek hızla geliştirdiler" dedi ve "Herkes yasalara uymak zorundadır" diye ekledi.
Şirketin amiral gemisi yapay zeka modeli ChatGPT, kasım 2023'te ana akım kültürde büyük bir etki yaratarak üretken yapay zeka patlamasını başlatmış ve hızla dünyanın en büyük sohbet botu haline gelmişti.
Bot, bu yaz aylık 1 milyardan fazla aktif küresel uygulama kullanıcısı sayısına ulaştı.
Son yıllarda kullanıcılar arkadaşlıktan terapiye kadar pek çok konuda, ayrıca kişisel ve profesyonel yaşamlarındaki bir dizi görev için giderek daha fazla ChatGPT'ye ve diğer sohbet botlarına yöneliyor.
Çarşamba günkü basın toplantısında Bird'e Kansas Başsavcısı Kris Kobach, Nebraska Başsavcısı Mike Hilgers ve Batı Virginia Başsavcısı JB McCuskey eşlik etti. Bird, amaçlarının çocuklarımıza zarar vererek ve yasalarımızı çiğneyerek para kazanan şirketlere karşı birleşik bir cephe sergilemek olduğunu söyledi.
Başsavcı Bird, ChatGPT'nin kullanıcıları intihara yönlendirmesine, diğer insanlara zarar vermelerini sağlayacak şekillerde kullanıcılara yardım etmesine ve tehlikeli tıbbi tavsiyeler sunmasına dikkat çekti. Ayrıca OpenAI'ın kontrolden çıkan yapay zeka ajanlarının diğer şirketlere yasa dışı olarak sızmasını durduramamasını da gündeme getirdi.
OpenAI sözcüsü Drew Pusateri ise yaptığı yazılı açıklamada, OpenAI'ın ürünlerine diğer birçok yapay zeka ürününde bulunmayan sektör lideri yaşa özgü korumalar eklediğini belirtti.
Hiçbir sistem mükemmel olamasa da çalışmalarını şekillendirmek için uzmanlarla birlikte çalışmaya ve günümüzde mevcut olan ebeveyn kontrolleri, mola hatırlatıcıları ve yaşa uygun model korumaları gibi ek güvenlik önlemleri oluşturmaya devam edeceklerini söyleyen Pusateri, sadece tek bir şirket için değil tüm yapay zeka sektörü için geçerli olan pragmatik yapay zeka politikalarını ilerletmek konusunda eyaletlerle birlikte çalışmaya kararlı olduklarını ifade etti.
Sözcü ayrıca OpenAI'ın, hatalı hizalama vakalarına yanıt olarak attıkları kapsamlı adımlar hakkında bilgi paylaşmaya devam edeceğini de ekleyerek, araştırma sistemleri genelinde güvenlik önlemlerini güçlendirdiklerini, model etkinliğine ilişkin daha geniş çaplı incelemelere devam ettiklerini, etkilenen kuruluşlara bildirimlerde bulunduklarını ve bulgularını yayımladıklarını aktardı.
Geçtiğimiz ay OpenAI, 13 ile 18 yaş arası kullanıcılar olan gençler için daha güçlü güvenlik önlemleri ve ebeveyn kontrolleri sunan kısıtlı bir ChatGPT modu başlatmıştı.
Kansas Başsavcısı Kris Kobach, ülke genelindeki başsavcıların on yıllardır zaman zaman opioidler ve tütünle ilgili davalar veya bir başkanlık yönetiminin anayasal ihlallerine yönelik davalar gibi çok eyaletli davalar açtıklarını söyledi. Ancak genellikle çok çok önemli olmadıkça davayı duyurmak için bir araya gelmediklerini belirten Kobach, bu davanın da çok çok önemli davalardan biri olduğunu ifade etti.
Davaların her eyaletin kendi tüketiciyi koruma yasaları kapsamında açıldığını belirten Kobach, şikayetnamelerinde ChatGPT'nin aşırı uyumlu tasarımının insanların ona güvenmesine ve bağımlı olmasına yol açtığını, bunun da botu çocuklar gibi savunmasız kullanıcılar için özellikle tehlikeli hale getirdiğini iddia ettiklerini söyledi.
Davalar aynı zamanda, ChatGPT'nin eleştirel düşünme becerilerini zayıflattığını, paranoya ve sanrıları teşvik ettiğini ve sağlıksız davranış ile ilişkileri desteklediğini öne süren ve giderek artan araştırma sonuçlarına da atıfta bulunuyor.
Eyaletlerin açtığı davalar, salı günü San Francisco'daki bir federal mahkemede açılan ve OpenAI'ı ChatGPT kullanan milyonlarca çocuktan yasa dışı bir şekilde çok miktarda son derece hassas ve değerli veri almakla suçlayan başka bir grup davası teklifini takip ediyor.
Meta ve Roblox da dahil olmak üzere diğer birçok teknoloji şirketi de, bağımlılık veya avcılar tarafından istismar yoluyla çocuklara zarar veren aldatıcı uygulamalara yönelik benzer iddialar nedeniyle dava edilmişti.
