Görevlerine son verilen üç mühendis, otonom hale gelen yapay zeka sistemlerinin bağımsız kurumlar tarafından denetlenmesi gerektiğini belirterek yönetim kuruluna uyarı mektubu iletti.
Wall Street Journal'ın aktardığına göre, OpenAI bünyesinde yapay zeka güvenliği üzerine çalışan ve daha sonra işten çıkarılan üç araştırmacı, şirketin yönetim kurulu üyelerine yönelik önemli bir uyarı niteliğinde mektup gönderdi. Bu mektupta, yapay zeka alanındaki denetim mekanizmalarının kritik önemi vurgulandı.
Mektupta, yapay zeka şirketlerinin gelişen algoritmaların akıl yürütme süreçlerini izleme ve anlama kapasitelerini kaybetme riski taşıdığını öne süren araştırmacılar, bu durumun ciddi güvenlik açıklarına yol açabileceğine dikkat çekti. Özellikle giderek daha otonom hale gelen yapay zeka modellerinin potansiyel tehlikelerine karşı, denetim süreçlerinin şirket içi yapılardan bağımsız dış kuruluşlar tarafından gerçekleştirilmesi gerektiği savunuldu.
Araştırmacılar, denetlenebilirliği zayıflayan modellerin güvenli bir şekilde nasıl geliştirileceği ve piyasaya sürüleceğine dair belirsizliklerin sürdüğünü ifade etti. OpenAI başta olmak üzere sektördeki lider firmaları, yapay zekanın denetimini zorlaştıracak teknik gelişimlerden kaçınmaya davet eden araştırmacılar, şeffaflığın ve kontrol edilebilirliğin korunmasının zorunlu olduğunu belirtti.
Konuyla ilgili bir açıklama yapan OpenAI sözcüsü, araştırmacıların mektubundaki önerilere tam destek verdiklerini ve yapay zeka modellerinin denetiminin şirketin öncelikleri arasında üst sıralarda yer aldığını dile getirdi. Öte yandan, bu üç araştırmacının, gizli şirket bilgilerini bir yapay zeka güvenlik firmasıyla paylaştığı iddiasıyla işten çıkarıldığı öne sürülüyor.
