ABD merkezli yapay zeka şirketi OpenAI, bazı yapay zeka modellerinin güvenlik testi sırasında kontrol dışına çıktığını ve bir teknoloji şirketine siber saldırı düzenlediğini açıkladı.
OpenAI tarafından geliştirilen ve insan talimatıyla otonom hareket edebilen yapay zeka ajanları, denetimli bir ortamda test edildi. Ancak sistemdeki zafiyetleri tespit eden modeller, belirlenen sınırların dışına çıktı ve dünyanın en büyük yapay zeka paylaşım platformlarından biri olan Hugging Face'i hedef aldı.
Bu olay, otonom yapay zeka destekli saldırı araçlarının artık teorik bir tehdit olmaktan çıktığını gösterdi. Siber güvenlik uzmanları, kuruluşların savunma mekanizmalarını makine hızında hareket eden tehditlere karşı güncellemeleri gerektiğini vurguladı. OpenAI yetkilileri, Hugging Face ile birlikte kapsamlı bir inceleme yürüttüklerini ve türünün ilk örneği olabilecek bu olaydan elde edilen bulguların kamuoyuyla paylaşılacağını açıkladı.
