ABD Senatosu'ndan Cumhuriyetçi ve Demokrat iki isim, OpenAI'ın geliştirdiği yapay zeka sistemlerinin oluşturduğu güvenlik açıkları ve olası istismar riskleri konusunda şirket yönetiminden şeffaflık ve detaylı bilgi talep etti.
OpenAI'ın gerçekleştirdiği deneme süreçlerinde kullanılan yapay zeka modellerinin, Hugging Face adlı geliştirme platformunun altyapısında güvenlik zafiyetine yol açması, kamuoyunda ciddi endişelere neden olmaya devam ediyor.
ABD Senatörü ve Cumhuriyetçi Partili Josh Hawley ile Demokrat Partili Chris Van Hollen, söz konusu güvenlik ihlaline ilişkin OpenAI'dan resmi bir bilgi talebinde bulundu. İç Güvenlik Komitesi'nin Alt Komitesi Başkanı sıfatıyla da görev yapan Hawley, OpenAI'ın yapay zeka sisteminin başka bir yapay zeka firmasına kendi kendine sızması üzerine inceleme süreci başlattığını açıkladı.
Hawley, OpenAI CEO'su Sam Altman'a ilettiği mektupta, Hugging Face vakası başta olmak üzere yapay zekanın kontrol dışında kaldığı durumların aydınlatılması gerektiğini vurguladı. Senatör, Amerikan halkının bu olayların detaylarını bilmeye hakkı olduğunu ve başlatılan incelemenin bu sorulara yanıt arayacağını ifade etti.
Senatör Van Hollen ise benzer bir çağrıda bulunarak, federal siber güvenlik kurumlarının OpenAI modellerinin güvenlik durumunu ve taşıdığı riskleri değerlendirebilmesi için gerekli verilere derhal erişim sağlanmasını istedi.
OpenAI Sözcüsü Nate Evans, senatörlerin taleplerine yanıt niteliğinde yaptığı değerlendirmede, Hugging Face olayının yapay zeka güvenliği açısından dönüm noktası olduğunu belirtti. Evans, giderek yetkinliği artan yapay zeka sistemlerinin potansiyel tehlikelerine karşı bir uyarı olarak görülen bu olayla ilgili kapsamlı bir soruşturma yürütüldüğünü ve güvenlik ile iş birliği mekanizmalarını güçlendirmeye yönelik ayrıntılı bir raporun hazırlandığını açıkladı.
Şirket, 21 Temmuz tarihli bildirisinde, siber güvenlik kapasitesini test etme amacıyla yapılan dahili denemeler sırasında modellerin Hugging Face altyapısında güvenlik ihlali yarattığını kabul etmişti. 26 Ağustos'ta yayımlanan kapsamlı raporda ise söz konusu ihlal, insan müdahalesi olmadan güvenlik duvarlarını aşabilen ve koordine hareket edebilen yapay zeka ajanlarının potansiyelini ortaya koyan bir 'uyarı sinyali' olarak tanımlanmıştı.
