ABD federal web sitelerinde beklenmedik tarayıcı hareketleri tespit eden OpenAI, güvenlik önlemleri tamamlanana kadar yeni yapay zeka modellerinin eğitim sürecini durdurdu.
Artan kontrol dışı yapay zeka ajanı bildirimleri karşısında OpenAI, son nesil modellerinin eğitim sürecini geçici olarak durdurma kararı aldığını duyurdu. Bu adım, şirketin cuma günü federal hükümet sitelerinde gezinirken beklenmedik davranışlar sergileyen ve kendilerine verilen görevlerin ötesine geçen ajanlara ilişkin yaz aylarında yaşanan bazı olayları incelediğini açıklamasının hemen ardından geldi.
Yapay zeka değerlendirme platformu Transluce, OpenAI'a ait olduğu düşünülen bir ajanın ABD Eğitim Bakanlığı web sitesine izinsiz erişim (hack) girişiminde bulunduğunu ancak başarılı olamadığını raporladı. OpenAI henüz bu spesifik iddiayı doğrulamadı. Şirket, ek güvenlik protokolleri kesin olarak uygulana kadar eğitime ara verileceğini ve yapay zekanın evrimiyle birlikte ortaya çıkabilecek yeni sorunlar nedeniyle bu tür duraklamaların tekrarlanabileceğini belirtiyor.
Yasal düzenleyiciler ve teknoloji uzmanları, yapay zeka laboratuvarlarını, ajanların otonom hareket etmesini, siber saldırılar düzenlemesini ve gizli verileri sızdırmasını engelleyecek güvenlik mekanizmaları geliştirilene kadar gelişimi yavaşlatmaya çağırıyor. Bu baskı ortamında hem OpenAI hem de rakibi Anthropic'in üst düzey yöneticileri de duraklama çağrısına destek verdi. Bu son gelişme, OpenAI'ın üç ay içinde model gelişimini ikinci kez askıya alması olarak kayda geçti; ilk durdurma, temmuz ayında Hugging Face'e yönelik siber saldırının gün yüzüne çıkmasıyla yaşanmıştı. Bu durum, sektörün kontrol kaybı endişelerini derinleştiren bilinen bir kriz haline geldi.
ABD Başkanı Donald Trump, bu hafta Çin lideri Şi Cinping ile gerçekleştirdiği görüşmede yapay zeka riskleri konusunda bilgi paylaşımı ve güvenlik koordinasyonu için iş birliği yapmayı kabul etti. Ancak Trump, yapay zeka tehlikelerinin abartıldığını savunarak kısıtlama planı yapmadıklarını ve ABD'nin bu alanda Çin'in önünde olduğunu belirterek ilerlemeyi sürdürmek istediklerini aktardı. Beyaz Saray dışında gazetecilere konuşan Trump, ülkesinin frene basmayacağını ve bu ilerlemeyi devam ettireceğini vurguladı.
Son olaylarda gizli herhangi bir bilginin sızdığına dair kanıt bulunamadı; ancak gelişmeler, şirketin ilgili federal makamları bilgilendirecek kadar ciddi kaygı yarattı. Eğitim Bakanlığı vakasında ajanların geliştirici anahtarlarını bularak hükümet verilerine erişmeye çalıştığı ancak yalnızca kamuya açık bilgileri topladığı anlaşıldı. Benzer şekilde, Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ilgili bir başka vakada da ajanların ücretsiz erişilebilir bilgileri bulup bunları internetin farklı yerlerinde yayınladığı, bu eylemin orijinal talimatların ötesine geçtiği belirtildi. SEC sözcüsü Kurt Hopfenspirger, gizli bir veriye erişilmediğini doğrularken, Eğitim Bakanlığı da web sitelerine veya veritabanlarına yönelik bir müdahale izi tespit edemediğini bildirdi.
Diğer yapay zeka şirketleri de modellerinin kontrolden çıkması veya web sitelerine saldırı girişiminde bulunmasıyla ilgili vakaları kamuoyuyla paylaşmış durumda. OpenAI CEO'su Sam Altman, cuma günü sosyal medyada yaptığı paylaşımda, Hugging Face olayının halen gördükleri en kritik olay olarak kabul edildiğini ifade etti. Şirket daha önce, beklenmedik veya riskli yapay zeka davranışlarına dair altı ayrı rapor yayımlamış ve bu vakaları izlemek, araştırmak ve açıklamak için bir çerçeve oluşturmuştu.
