ABD merkezli yapay zeka devi Anthropic'in kurucu ortaklarından Jack Clark, şirketlerin yapay zeka sistemlerini denetlemek amacıyla dış denetim yetkisine sahip 'acil kapatma düğmesi' uygulamasının gelecekte yasal bir zorunluluk haline gelebileceğini ifade etti.
Yapay zeka alanındaki artan endişeler ve tartışmalar üzerine BBC'ye konuşan Anthropic'in kurucu ortağı Jack Clark, yapay zeka teknolojilerinin aşırı riskli boyutlara ulaşması halinde bu sistemleri tamamen devre dışı bırakma ihtiyacının, toplum tarafından gelecekte düzenlenmesi gereken bir konu olduğunu vurguladı.
Anthropic'in de aralarında bulunduğu birçok yapay zeka firmasının çeşitli kapatma mekanizmalarına sahip olduğunu hatırlatan Clark, acil durdurma prosedürlerinin denetimi ve zorunluluk koşullarının, yapay zeka politikası üzerine yürütülen geniş çaplı görüşmelerin ayrılmaz bir parçası olması gerektiğini savundu.
BBC muhabirinin, şirketlerin üçüncü tarafların kontrolünde çalışan acil kapatma düğmeleri bulundurup bulundurmaması gerektiği yönündeki sorusunu yanıtlayan Clark, bu konunun toplumun merak ettiği ve nihayetinde yasal düzenlemelerle şekillendirileceği bir alan olduğunu belirtti.
Yapay zekanın insanlık için taşıdığı yok etme potansiyelinin yüzde kaç olduğuna dair soruya karşılık Clark, bu tür istatistiklerin pratik bir fayda sağlamayacağını düşünse de yapay zeka sektörünün tamamen denetimsiz kalmasının kabul edilemez olduğunu dile getirdi.
Clark, sektörün muazzam riskler taşıyan bir kumar oynadığını belirterek, asıl önceliğin bu sektörün mevcut gidişatını değiştirmek olduğunu ifade etti.
Öte yandan, son üç yılda OpenAI ve Anthropic'te araştırmacı olarak görev yapan Jacob Coxon, iki dev yapay zeka şirketinin de gerekli sorumluluğu üstlenmediği gerekçesiyle Anthropic'ten ayrılmıştı.
Coxon, şirketlerin kendi kendini geliştiren yapay zeka sistemleri konusunda kontrolsüz bir yarış içerisinde bulunduğunu ileri sürerek, bu sistemlerin yakın gelecekte tüm dijital altyapıyı ele geçirebilecek 'insanüstü' niteliklere kavuşabileceği uyarısında bulunmuştu.
Ayrılan araştırmacı, yapay zeka modellerini geliştiren sektör içi bazı çalışanların, bu sistemlerin on yıl içinde insanlığa ölümcül zarar verebileceğine dair ciddi kaygılar taşıdığını da öne sürmüştü.
