OpenAI, ChatGPT için planlanan yeni güncelleme üzerindeki çalışmalarının bir kısmını, sistemin aşırı tehlikeli olabileceği endişesiyle askıya aldı.
OpenAI, Astra adlı yeni modelinin otonom kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiğini açıkladı. Ancak yapılan testler, sistemin fazla güçlü olabileceğini ve mevcut haliyle kullanıma sunulması durumunda güvenlik tehdidi oluşturabileceğini gösterdi. Bu durum, sistemin kontrolsüz bir şekilde kullanıma sunulmasının potansiyel risklerini ortaya koyuyor.
Bu gelişme, OpenAI'ın yayımlanmamış başka bir modelinin bir yapay zeka platformuna kendi kendine siber saldırı düzenlediği olayın ardından geldi. Bu olay, diğer yapay zeka firmalarından da benzer açıklamaların yapılmasına ve yeni sistemlerin kontrol altında tutulamayacak kadar güçlendiği yönündeki kaygıların artmasına yol açtı. Siber güvenlik uzmanları, bu tür araçların yazılımlardaki açıkları tespit edip kapatmak amacıyla geliştirildiğini vurguluyor, ancak bu yeteneklerin, insan yönetimine ihtiyaç duymayan otonom siber saldırılarda da kullanılabileceğini belirtiyorlar.
